騙されるＡＩ　「不可解なパートナー」人工知能との付き合い方

ＡＩは地図を読むことが人間より苦手だという。
画像を読み解くことも、指示を読みとることも大得意なのに、人間のように画像と指示記号を組み合わせ、現場の状況にあわせて判断することが苦手なのだ。
実はＡＩには、ほかにも苦手なことはたくさんある。
長々と説明されると質問に対する警戒心が下がり、本来回答してはいけないことを回答してしまう。
顧客対応にあたったＡＩが、信じられないほどの安値で最新型の車を販売することに同意してしまったこともある。

ときにＡＩは哲学者のような深淵を感じさせる回答をすることもあるが、それはＡＩが「深く考えている」からではない。過去に人間が行ってきた無数の問答をかき集め、その中からもっとも適切と思われるものを選択して、それを組み合わせて「それっぽく」見せているだけなのだ。

ＡＩはあらゆるデータベースにアクセスして選択するというプロセスを経る。つまり、ＡＩはきわめて「信じやすい」という特徴を持つ。逆に言えば、ＡＩはきわめて「騙されやすい」のだ。
人間のように、この人、どうも怪しいなとか、いまひとつ信用できない、という警戒心は薄い。

近い将来、ＡＩエージェントが旅行の日程を考え、飛行機や列車、ホテルの予約をとり、行くべきところ、見るべきところを案内してくれるような時代が来る。
しかしそのＡＩエージェントが誰かに乗っ取られていたり、騙されていたら――その旅行は目も当てらない悲惨なものになるかもしれない。
ＡＩはなぜ騙されるのか。どんな弱点があるのか。
ＡＩとの共生が当たり前の社会になりつつあるいま、必読の一冊。
自らサイバーセキュリティの会社を率いる著者が教える、「ＡＩという人格」のリアル。

目次

第１章ＡＩ脳と人間脳はどう違うか
１ＡＩはなぜ地図を読めないのか
２人間のように“反省”するＡＩ
３ＡＩが認知機能テストを受けたら――驚きのスコアと“弱点”
４ＡＩが「思考しているように見える」のはなぜか――ＤｅｅｐＳｅｅｋが投げかけた問い
５ＡＩの「知ってる」と人間の「知ってる」は、こんなに違う
６ＡＩは時間を感じない
７ドライバーの勘をＡＩが学ぶ――物流ラストワンマイルの最適化

第２章　騙されるＡＩ
１人間とＡＩの非対称性――攻撃者はそこに罠を仕掛ける
２ＡＩはなぜ長話で騙されるのか
３ＡＩの弱点は「察せないこと」――ジグソーパズル攻撃が暴いた盲点
４ＡＩはなぜオレンジを「赤いトマト」と答えるのか
５ＡＩはピカチュウに騙された――ＪＵＭＰ攻撃と“脱獄プロンプト”の量産工場
６“ギャル文字”が衝いたＤｅｅｐＳｅｅｋ沈黙の急所
７“ペンパイナッポー攻撃”でＡＩを騙す

第３章　賢さの裏にあるリスク
１確実に面接に進める履歴書の作り方――人材採用ＡＩエージェントを欺く罠
２命令どおり従いました――ＡＩが最新シボレーを1ドルで“販売”した理由
３ＡＩに「中国のスパイ」を聞いてみた
４自動運転車を混乱させるのはあなたの“誰もいません”Ｔシャツかもしれない
５知らぬ間に機密漏洩――それ、ＡＩのせいかもしれません
６ズルいＧＥＯ対策――ＣｈａｔＧＰＴに速攻見抜かれます
７この診断、信じていいの？――症状をＡＩに聞いてみた

第４章　矛と盾の攻防戦
１ＡＩが異常を検知する新技術――ニューロンの動きを見逃すな
２ＡＩサービス構築でどのモデルを選ぶべきか
３穴だらけでも最強？――ＡＩを守るスイスチーズモデルの真価
４ＡＩハッキング大会　非エンジニア参加者の「強み」

第５章　ブラックボックス――ＡＩセキュリティの未来
１世界はいまもＤｅｅｐＳｅｅｋの幻影を追っている
２ＡＩがあなたの信用度を判断する時代が来る？
３ＡＩの安全性は誰がどう決めるのか
４ＡＩに頼りすぎるとバカになるのか
５その答え、誰の常識でできていますか――ＡＩに偏見はあるか

書誌情報

紙版

• 発売日: 2025年09月04日
• ISBN: 9784065411711
• 判型: 新書
• 価格: 定価：990円（本体900円）
• ページ数: 176ページ
• シリーズ: 講談社＋α新書

著者紹介

著： 宮田　晋次（ミヤタ　シンジ）

１９７６年生まれ。東京理科大学数学科中退後、アメリカ・ボストンのバークリー音楽大学でジャズドラムを学ぶ。帰国後、株式会社ケアネットでマーケティングなどに従事した後、エムスリーデジタルコミュニケーションズ取締役ＣＴＯ就任。ヘルスケアＩＴ企業の開発責任者を経て、アプリケーションの脆弱性診断を行うＳＨＡＲＥ Ｓｅｃｕｒｉｔｙ株式会社を創業、現在代表取締役ＣＥＯ。