Kaggleコンペで金メダル！Ristの小嵜が活躍した理由とは

KaggleコンペでRistの小嵜が金メダルを獲得

株式会社Ristに所属するKaggle Grandmasterの小嵜耕平が、世界的なデータ分析プラットフォーム「Kaggle」で開催されたコンペティション「AI Agent Security - Multi-Step Tool Attacks」において、チームで金メダルを獲得しました。このコンペティションは、2023年6月から9月にかけて開催され、AIエージェントに対する複数ステップの攻撃探索をテーマにしています。

コンペティションの概要

このコンペティションでは、OpenAI、Google、IEEEがスポンサーとなり、AIエージェントを対象に信頼できない情報から影響を受ける状況を模擬した攻撃を探求する内容でした。参加者は、外部から与えられるリスクを理解し、AIエージェントが意図しない動作をする原因を探ります。AI技術の進化が進む中で、こうした研究は実社会でのAIの安全性向上に寄与することが期待されています。

小嵜が参加するチームは、12,224名の応募者の中で、他チームと競い合い、結果として金メダルを手にしました。コンペ終了時点での最終順位は、参加者4,833名のうち4位であり、これもまたチーム全体の努力の賜物です。

参加者のコメント

小嵜は、今回のコンペでの対策として、「詳細が公開されていないLLMのガードレールに対して有効な攻撃手法を探索するのが難しかった」とコメント。「特定の条件を満たした場合に時間のかかるツールを呼び出し、実行時間の違いからガードレールの挙動を推測する工夫を行った」と振り返ります。これは、AIエージェントの複雑な挙動を逆手に取った戦略です。

Kaggleの魅力

Kaggleは、参加者が企業や団体から提示された課題に挑むプラットフォームとして知られています。登録者数は約3,300万人を超え、データ分析やAI技術に興味を持つ人々が集結しています。特に、Kaggle Grandmasterという称号は、優れた成績を収めた少数の参加者に与えられるもので、競争は非常に厳しいものです。