1 : 2026/06/29(月) 07:36:03.61 ID:2B02iXbIM
逆にすごい。大手コンサル作「AIのすごさを証明する報告書」がハルシネーションだらけ | ギズモード・ジャパン
https://www.gizmodo.jp/article/a-report-full-of-hallucinations/AIを賞賛する報告書がAIによる誤情報満載
世界的なコンサルティング会社KPMGが公開したAIレポートの中に、実在しないAI活用事例が複数含まれていたことが明らかになりました。その報告書には、スイスの金融大手UBSやスイス連邦鉄道、ロンドン交通局などがAIエージェントを活用し、投資助言や交通管理、移動計画の最適化を実現していると紹介されていました。
ところが、英フィナンシャル・タイムズが各組織に確認したところ、UBSは「事実として誤り」、スイス連邦鉄道は「正確ではない」、ロンドン交通局は「誤解を招く内容」と回答。
つまり、KPMGがAI活用の成功例として挙げていた事例の一部には、事実確認できないものが含まれていたのです。
全文はおソースで
2 : 2026/06/29(月) 07:37:28.08 ID:dEGV+VQG0
AIと会話してると長文で返されてイライラしてくるわ
15 : 2026/06/29(月) 08:18:00.93 ID:/RrdIG+i0
>>2
しかも微妙にズレてるんだよな
しかも微妙にズレてるんだよな
27 : 2026/06/29(月) 12:29:20.04 ID:Bg9uFTo70NIKU
>>2
長文で返すと反論されにくいことを学習してるからな
長文で返すと反論されにくいことを学習してるからな
3 : 2026/06/29(月) 07:37:55.40 ID:MWWIU/lqH
テレビでAIエージェントはこんなに凄いってやっててそれがマクドナルドの注文だった
ジゾババ向けとはいい酷すぎる
ジゾババ向けとはいい酷すぎる
5 : 2026/06/29(月) 07:42:49.09 ID:G+w7r5pM0
はよ税理士失業の事例だせよ
AI様お得意の数字弄りだよ?
AI様お得意の数字弄りだよ?
6 : 2026/06/29(月) 07:46:07.06 ID:xdWQlITk0
やっぱバブルだわこれ
7 : 2026/06/29(月) 07:49:59.60 ID:bAfeIeyx0
会計監査とかでいいじゃん 自前で書けるだろ
8 : 2026/06/29(月) 07:56:34.77 ID:+CEQ59zud
ベネズエラ地震の現地映像見てると
全部AIに見えてくる
結局ロイターやAPが流して情報確認せざる得ない
全部AIに見えてくる
結局ロイターやAPが流して情報確認せざる得ない
副作用も大きい
9 : 2026/06/29(月) 07:59:44.06 ID:9g0ZHhq30
やっぱ既存の知識学習しつくしたらゴミしか出さなくなって終わるだろこれ
10 : 2026/06/29(月) 08:05:29.24 ID:RA/qZRUg0
情報の根拠としてはどこまで言っても確実性が無い
11 : 2026/06/29(月) 08:12:23.27 ID:Jd5ljhbP0
単なる文章のツギハギだから根拠もなければ正確性もない
詐欺師と喋ってるようなもん
詐欺師と喋ってるようなもん
12 : 2026/06/29(月) 08:14:14.34 ID:Vn70lVTP0
AIで作ったんだろ
13 : 2026/06/29(月) 08:16:09.91 ID:GvE6LCZga
このコンサル要りますかね?
14 : 2026/06/29(月) 08:16:34.57 ID:i1B9Jygr0
AIは歴史を語らせると面白い。ハルシネーションも少ない(無いわけではない)
思いついた国を適当に入れて語らせてる。
最近ではハンガリーとインドが面白かった
思いついた国を適当に入れて語らせてる。
最近ではハンガリーとインドが面白かった
29 : 2026/06/29(月) 12:34:06.73 ID:McphXOny0NIKU
>>14
歴史や自然科学とかの文教系は鮮度が枯れてる分精度高いね
歴史や自然科学とかの文教系は鮮度が枯れてる分精度高いね
16 : 2026/06/29(月) 08:19:31.41 ID:6B/kMzIrd
ジャップ仕草
17 : 2026/06/29(月) 08:19:51.73 ID:FBCHvbfo0
結局AI自身にインプットの情報に関して概念的な妥当性とか経緯なんてわかんないからね
ゴミを入れればゴミが出てくるというシステムの仕組みからは逃れられない
入力がゴミかどうかは人が判別してやらないとならないが、ミスは起きるし
ミスがなくともお前はそれをそう解釈したんかいって場面がかなりある
使ってて便利だけど結局手直しはいるからそこまで効率的にならん
ゴミを入れればゴミが出てくるというシステムの仕組みからは逃れられない
入力がゴミかどうかは人が判別してやらないとならないが、ミスは起きるし
ミスがなくともお前はそれをそう解釈したんかいって場面がかなりある
使ってて便利だけど結局手直しはいるからそこまで効率的にならん
18 : 2026/06/29(月) 08:21:17.87 ID:FeL43vzv0
単なる図書館の本の検索と文書の継ぎ接ぎ
19 : 2026/06/29(月) 08:24:06.57 ID:8TukIbn60
こんなハルシネーションすらあと数年で無くなるのでは?
20 : 2026/06/29(月) 08:33:57.73 ID:i1B9Jygr0
>>19
増えるだろ
ハルシーネション記事をソースに学習するのだから
増えるだろ
ハルシーネション記事をソースに学習するのだから
21 : 2026/06/29(月) 08:39:26.18 ID:YgIQiLWp0
>>20
嘘抑制 嘘阻止 嘘検証の精度が上がっていくのでは?
嘘抑制 嘘阻止 嘘検証の精度が上がっていくのでは?
26 : 2026/06/29(月) 12:26:38.47 ID:PiKeslPs0NIKU
>>20
お前、AI理解してないだろ
お前、AI理解してないだろ
23 : 2026/06/29(月) 09:00:43.85 ID:Ak96e6/z0
ソース元のURLを出せって言って自分でURLに飛んで目視チェックしないとダメよ
AIが出した情報を鵜呑みにしてるのは使われてるだけ
AIが出した情報を鵜呑みにしてるのは使われてるだけ
24 : 2026/06/29(月) 09:00:44.54 ID:zI9+xZWU0
あくまで確率で返答してる限り誤りはなくならんだろ
AIは物事を理解はしてない、知識の中から正しそうなものを繋げてるだけだ(それでもある程度は使える)
自分が作った文章を何度も添削すれば精度は上がるのかもしれないがその分コストも上がる
AIは物事を理解はしてない、知識の中から正しそうなものを繋げてるだけだ(それでもある程度は使える)
自分が作った文章を何度も添削すれば精度は上がるのかもしれないがその分コストも上がる
25 : 2026/06/29(月) 10:20:47.54 ID:UFCFKFfsM
ソースが仮想空間しかねえからだろ
AIが勝手に現実世界からデータ取ってくるようにすれば良いんじゃねえの?
AIが勝手に現実世界からデータ取ってくるようにすれば良いんじゃねえの?
28 : 2026/06/29(月) 12:31:21.96 ID:H4s/1b5M0NIKU
いまだにこんなハルシネーション起こす安いAIプランを使ってる大手コンサルおるんか?
31 : 2026/06/29(月) 14:43:24.89 ID:M2W1YKYw0NIKU
今のAIの仕組みだとAIがAIの情報分析すると
虚偽情報は増えるというか意味空間の誤情報の分散が増える感じ
理論上はAIの出力記事をAIが学習するとある時点で誤情報ばかりになる不可逆的な変化が起こる
虚偽情報は増えるというか意味空間の誤情報の分散が増える感じ
理論上はAIの出力記事をAIが学習するとある時点で誤情報ばかりになる不可逆的な変化が起こる
有料版で正確性担保に使われてるRAGや高度な推論CoTも効果ない原理的なもの



コメント