2026年7月12日(日)掲載 2,537本日 0
HN162139

テロ組織「ボコ・ハラム」は最先端AIをどう悪用しているのか?その恐るべき実態に迫る

How the terrorist group Boko Haram uses frontier AI

imustachyou約23時間前

議論

11
1andy99約22時間前

この一節を読んでかなり疑わしく感じたよ。検閲なしやジェイルブレイクされたLLMがこういう質問に返答するのを見たことがあるけど、実行可能なアドバイスなんて一度も返してこないし、Wikipediaに書いてある以上のことは言わない。それに、アンセンサードなモデルを使わなければ引き出すのは難しいよ。テロリストが一般的な意味でLLMに助けられているのは間違いないだろうけど、他では得られない機密情報を効率的あるいは効果的に提供しているという主張には懐疑的だな。インタビューの断片じゃなくて、ちゃんとした証拠が見たいところだね。

2arjie約22時間前

映画でバイクが橋を飛び越えるのを見て、どうやるかをAIに聞いた。バイクの種類やジャンプに必要な距離とかの情報を与えたら、手順を教えてくれた。練習を重ねて、何度も質問したよ。穴を掘って、割れたガラスと火で満たして練習したんだ。その過程で18人が死んだけど、8人が成功した。次の襲撃で、僕らは飛び越えることができた。

いいか、彼らにAIをもっと与えるべきだなんて言うつもりはないけど、少なくともここでは悪い結果にはなってないみたいだね。

「完全にその通り!素晴らしい練習場にするには、塹壕を割れたガラスで満たして、そこに火をつけるのが一番だよね」

3quantumleaper約22時間前

他のコメント主と同様、レポートの内容は妙だと思うな。

以前は従来の方法に頼っていた。戦力があったから200人の戦闘員を送ったけど、60人が殺された。AIのおかげで、時には20人だけ送るのが理にかなっていると学んだ。うまく連携した攻撃や小規模部隊の展開についてより深く学べたよ。

他の引用やユースケースなら、AIのジェイルブレイクを使って情報を簡単に手に入れるという意味でまだ理解できなくはない。でもこれは完全に馬鹿げてるよ。調査員はトロル(釣り)に引っかかったんじゃないの?

5Cider9986約22時間前

テロリストが利用するのを防ぐために、一般市民向けのオープンソースAIは禁止すべきだ。

6hoppp約22時間前

AIサービスもそのうちKYC(本人確認)が必要になるのか?

7idoubtit約21時間前

PDFをさらっと読んだ感じでは、手法はまともだけど結果が誇張されている印象を受けた。タイトルが「ボコ・ハラムが語るAI活用の噂」だったら、こんなに注目は集めなかっただろうね。

弱いのは、AIの知識がある15人にしかインタビューしていない点。それに、彼ら自身は一度も使ったことがないみたいなんだ。プロンプトを送れたのはトップの指揮官や専門部隊だけ。だから、間接的な証言から実際のAI利用実態を推測するのは難しいよ。例えば、指揮官たちは、実際にはただの検索エンジンを使っていただけだとしても、士気を高めるために「AIをバリバリ使っている」という噂を流すことにしたのかもしれないし。

例えば、なぜわざわざAIにお金を払ってこんな初歩的な助けを求めるんだろうね:

「銃の分解洗浄の方法を教えてもらう」といった即座の技術修正や、「ジャムった銃を持つ戦闘員を後ろに下げ、他のメンバーが代わりを務める」といった戦術指導。

ちなみに、論文でもボコ・ハラムはもともと平和に暮らす宗派だったと書かれている。それが「政府の暴力的な弾圧と、警察の拘留中におけるユスフの死を経て、ジハード主義的な武装勢力に変わった」わけだ。以前アムネスティの報告書を読んだ時、民間人の犠牲者の55%はテロ集団によるもので、45%は治安部隊によるものとあった。ナイジェリア軍は村ごと焼き払うこともあったんだ。いつも通り、世界は白か黒か、善か悪かで割り切れるものじゃないね。

8petilon約20時間前

「ボコ・ハラム」は「西洋の教育は禁忌」という意味だよね。西洋のAIを教育ツールとして使うなんて、偽善もいいところじゃないか。

9segmondy約19時間前

ニュース速報:テロ集団が検索エンジンを使用、世界の情勢を知るためにニュースサイトを利用、銀行や天気予報サイトを計画に利用、メールや車、ペンも使用、そしてもちろんAIも使用。だからもしAIを規制すべきだと言うなら、これらのすべての道具を禁止することも忘れないようにしないとね。

10VortexLain約18時間前

これを阻止しようとしても、テロリストが検索エンジンを使うのを阻止しようとするのと同じ結果になるだけだよ。一般ユーザーに不釣り合いな不利益を与えるだけ。もし今のAI不正利用に対するパラノイアが、検索エンジンやインターネット図書館(知識はテロ計画にも役立つからね)、そしてコンピューター全般に適用されていたらどうなっていたか想像してみてよ。