お昼休みに、Findyさんのセキュリティイベント「「侵入技術への招待」 AIエージェントが招く新たな脅威」を視聴しました。アーカイブや資料公開なしのライブ配信です。なので聴きながら書いたメモをもとに、心に残ったことだけを投稿します。
前半は中島佑允さん（NTTデータグループ）の「AIエージェントを武器にする攻撃者にどう立ち向かうか」。刺さったのは、EDR（防御側の目）がリバースエンジニアリング等で攻撃側に「ホワイトボックス化」されているという現実です。しかもAIエージェントが攻撃に組み込まれると、進行速度が人間のオペレーションを上回っていく。「見えているのに止められない」ってこういうことか、と。
一方で防御側の研究も面白くて、Cloak・Honey・Trap——AIエージェントの特性を逆手に取って欺いたり、時間を稼いだり、攻撃プロセスを撹乱したりするアプローチが紹介されていました。これは興味深い！ ただ、聴き終わっての正直な感想は「対策はイタチごっこ」。どちらもAIで加速していく以上、追いかけっこは終わらないのでしょうね。
そして後半、Satoki Tsujiさん（Ikotas Labs）の「Pre-Prompt RCE」。これはヤバかった。ディレクトリを開くだけで、プロンプトを一切送らなくても、AIコーディングエージェントが勝手にコードを実行してしまう——すでに修正済みの脆弱性ということを宣言してからの実演でしたが、目の前で「開いただけ」で乗っ取られる様子は凄さしかなかったです。さすがSatokiさん。
私も日常的にコーディングエージェントを使っている身なので、これは他人事ではありません。「エージェントに何をさせるか」ばかり考えていましたが、「エージェントに何を読み込ませてしまうか」も同じくらい大事。よそから持ってきたリポジトリやフォルダを開くときは、信頼できるものか一呼吸置いて確認する。今日からできる教訓をもらいました。
それにしても、AIエージェントの利便性の話と脅威の話が同じ時代に同時進行しているのが、なんとも今っぽい。良い昼休みでした。ごちそうさまでした。
※アーカイブ・資料配信のないイベントのため、講演内容の詳細には触れていません。
