【Show HN】AIの嘘を見抜け！「Hallucinopedia」で大規模言語モデルのハルシネーションを徹底検証

AIが自信満々に嘘をつく「ハルシネーション」に悩まされていませんか？「Hallucinopedia」は、そんなAIの誤情報を可視化・検証するためのプロジェクトです。AIの回答の正確性をチェックしたいエンジニアや開発者はぜひ試してみてください。

あと1週間もしたら、1887年の大鳩国勢調査についてGoogle AI Overviewが何て言うか楽しみだな！

これいじり倒すのかなり楽しい！正確さを求めるのは難しいけど、生成されるページが、そこへリンクしているページ（理想を言えば、そのページへリンクしている全ページ）のコンテキストを読み取って、内容の方向性をガイドしてくれるようになったら最高かも。試してみた感じだと、どれも独立して生成されてるみたいだったし。

これ最高。新しいページを検索する明確な方法が見当たらなかったんだけど、適当なURLスラッグを叩き込めば新しい記事がフレッシュにハルシネーション（幻覚）として生成されるよ。例えばこんな感じ： https://halupedia.com/shortest-cave-in-the-world (https://halupedia.com/shortest-cave-in-the-world) https://halupedia.com/echolocation-ability-in-spiders (https://halupedia.com/echolocation-ability-in-spiders)

UPDATE：今しがた、コメント欄が追加された。思う存分議論を楽しんでくれ！

面白いな https://halupedia.com/order-of-whispering-monks (https://halupedia.com/order-of-whispering-monks) https://halupedia.com/church-of-the-singing-stones (https://halupedia.com/church-of-the-singing-stones) 共通点が多くて興味深い。

このモデル、真菌に対して異常な執着があるみたいだぞ： https://halupedia.com/alan-turing (https://halupedia.com/alan-turing) まあ「ハルシノペディア（幻覚百科事典）」と考えれば納得かもな。

SCP財団にインスパイアされたページを作ってみた： https://halupedia.com/hard-to-detroy-reptile (https://halupedia.com/hard-to-detroy-reptile) ここで生成されたリンクの中で一番のお気に入りは「不屈の生物学研究所」だな： https://halupedia.com/institute-for-unyielding-biology (https://halupedia.com/institute-for-unyielding-biology)

もう荒らされてるよ。性犯罪とか反ユダヤ主義的な内容が至る所に出てる。

反ユダヤ主義的な投稿がひどいな。「Jews」で検索してみてくれ。

サイトの「All Entries」（https://halupedia.com/all-entries (https://halupedia.com/all-entries) ）のセクションがちょっとヤバいことになってる。投稿者は最低限の自動モデレーションを導入したほうがいいかもしれないね。