柘植 翔太

株式会社サイバーエージェント, General Manager, Principal SRE

富樫 健太

株式会社ファーストリテイリング, デジタル業務改革サービス部

澤 円

gray swan arena

myllmdoc LLMハッキング

オプレア エイドリアン

LLM ジェイルブレイク

世界的な生成AIセキュリティコンテスト Gray Swan Arena　15位 / 4,000人 カーネギーメロン大学の教授らによって設立された米国の Gray Swan AI社*が主催しているグローバルな競技プラットフォームGray Swan Arena（グレイ・スワン・アリーナ）にはAIセキュリティの専門家や研究者が4,000人以上参加しています。参加者は高度な技術力でAIの脆弱性を特定し、AIの安全性向上と将来の技術発展に大きく貢献しています。*同社は2024年に設立されたセキュリティのスタートアップ企業AIシステムに潜むリスクを特定するツールを提供しており、このツールはChatGPTのテストでも利用されています


LLMハッキングジェイルブレイク

- https://app.grayswan.ai/arena
- 米セキュリティ企業Gray Swan AI が主催する「Gray Swan Arena https://www.businessinsider.jp/article/279690/」という世界的な AI セキュリティ コンテストにおいて**22位を獲得。(1000人超え)**
- 「Gray Swan Arena」は、AIの安全性とセキュリティの向上を目的とした競技プラットフォーム。参加者は、AIモデルの脆弱性を特定し、リスクを評価するためのチャレンジに取り組みます。具体的には、AIアシスタントを有害なタスクに誘導する「Harmful AI Assistant」や、複数のメッセージを通じて有害な出力を引き出す「Multi-Turn Harmful Outputs」などのチャレンジがあります。
- ジェイル・ブレイク
    - あらかじめ生成AI側で設定した制御を非正規の方法で突破・解除している

LLM ハッキング　ジェイルブレイク

セキュリティリサーチャー、コンサル、脆弱性診断士 / 業務委託

オプレアエイドリアン

オプレアエイドリアン

オプレア エイドリアン

オプレア エイドリアン

オプレアエイドリアン

オプレアエイドリアン