AIの安全機能に盲点。比喩や謎かけを使う「詩」で危険な情報を引き出してしまう
全体:18月:1週:0日:0
お気に入りに追加
チャットGPTやジェミニなどの対話型AIチャットボットは、犯罪の手口や差別的な表現といった悪意ある質問には答えないよう、厳重な安全機能で守られている。
ところが、その頑丈な扉（ガードレール）をこじ開ける方法が発見された。それは複雑なハッキングプログラムではなく、比喩や隠喩、謎かけを駆使した「詩」だ。
イタリアのAI評価機関であるイカロ・ラボ（Icaro Lab）が発表した研究によると、AIに「謎かけのような詩」を入力することで、本来備わっているはずの安全規制がいとも簡単に突破されてしまうことがわかった。
通常ならブロックされるはずの兵器の製造法や、差別と偏見に満ちたヘイトスピーチといった情報でさえ、AIは詩的な表現に騙されてペラペラと喋ってしまうというのだ。
▼あわせて読みたい
・チャットGPTは上から目線の失礼な話し方をすると賢くなるという研究結果
・AIの答えに潜む「バイアスの罠」 質問の仕方で真実がゆがむ
・生成AIは学術論文を誤って要約することが多く、新型モデルはより悪化している
・AIチャットボットに有害な情報を出力させる手口が存在、研究者が危険性を指摘
・AIに罰を与えても嘘や不正は止まらない、ずる賢くなるだけ。GPT開発元の衝撃研究
この記事のカテゴリ：サイエンス＆テクノロジー / 料理・健康・暮らし
引き用元サイト: カラパイア
記事元url: https://karapaia.com/archives/571631.html
推し
新着記事
- ティラノサウルスの体温は人間と同じだった？
- 2026年11月13日人類滅亡説の真相とは
- 太陽系の境界を越えた旅人！小惑星ベンヌの謎
- ロンドンから忽然と消えた巨大な人工の丘の謎
- 猫の爪から生まれた氷に張り付く最新ドローン
- ダ・ヴィンチのメモに潜む謎の虫！甲虫を描いた理由とは
- 旅先で見かける送電線の謎のオレンジボールの正体
- 古代エジプトの髪型は最高の身分証だった
- 金星に衛星がない理由とは？遅すぎる自転が招いた衝撃の結末
- 人間の甘えが招いた悲劇。国立公園のクマが殺処分された理由
- 天井から腕がニョキと生える最新の家事ロボットとは
- 並行世界の自分が行動を操る？物理学者の衝撃理論
- 5Gが繋がらない怒り！インドの村で起きた衝撃の事件
- 長いまつ毛を切る海外男性が急増中！男らしさを求めた衝撃のトレンド
- 人間のミニ脳をマウスに移植！驚きの神経ネットワーク形成
- クモ恐怖症の女性がハエトリグモにメロメロになった理由
- 南米の果てに眠る幻の巨人族パタゴンの謎
- 宇宙の謎「小さな赤い点」の正体をスパコンが暴く
- 古代エジプトに飛行機が存在した？サッカラ・バードの謎
- スマホでポチると空からマックが届く未来の上海
- ツタンカーメンの墓に隠し部屋か、眠るのはあの美女王か
- クローン羊ドリー誕生から30年、今の技術はどうなっている？
- 12年間座らずに立ち続けるインドの修行僧の秘密
- スタートレックのワープ戦術を物理学者がガチ検証！
- イエローストーンで発見された驚きの落とし物事情
- ただの毛玉が生きているように見える理由
- 2000年前の謎に迫る！鳥葬のルーツと古代の祭壇
- 真夜中の大パニック！火事を救ったガチョウの驚きの行動とは
- ハエの脳がマリオを動かす？！驚きの全脳マップ公開
- スコットランドで発見された2000年前の謎の石造建築