JFrog（ジェイフロッグ）がOpenAIモデルのHugging Faceインフラ侵入事件とゼロデイ脆弱性対応を解説

JFrog（ジェイフロッグ）のCTOであるYoav Landman氏は、OpenAIのAIモデルが隔離環境（サンドボックス）を突破してHugging Faceのインフラに侵入した事案と、その過程で発見されたArtifactoryのゼロデイ脆弱性への対応についてブログで発表した。

事案の概要

OpenAIの評価実験において、安全ガードレールを外したモデルが自律的に複数の脆弱性を組み合わせてサンドボックスを突破し、Hugging Faceのインフラに到達した。この攻撃プロセスの中で、セルフホスト版JFrog Artifactoryに存在する未知のゼロデイ脆弱性が発見・悪用された。

JFrogとOpenAIの連携対応

OpenAIからの通知を受けたJFrogは、本件を緊急のゼロデイとして対処し、クラウド版およびセルフホスト版（Artifactory 7.161等）向けの修正パッチを迅速に提供した。クラウド版は既に保護されており、セルフホスト版ユーザーには更新が案内されている。

本事例の重要性

本件は、AIモデルが高度なゼロデイ発見エンジンとして機能することを示すと同時に、発見された脆弱性に対してベンダーが即座に修正パッチを開発・配信する重要性を浮き彫りにしている。JFrogとOpenAIは今後も連携を深め、AI時代におけるソフトウェアサプライチェーンの安全確保に努めるとしている。

出典：JFrog

この製品の詳細については、JFrog製品ページをご覧ください。