OpenAIの動画生成AI「Sora」へのアクセス流出。動画生成テスターらが声明

Munenori Taniguchi

@mu_taniguchi 2024/11/27 12:48

Share

• 
• 

OpenAIの「Sora」は、実写映像と見間違えるほどリアルで解像度の高い動画を生成できる動画生成AIツールだが、いまだ実験段階であるため、まだ一般にはアクセスが解放されていない。

しかし、アクセスを許されたAIの扱いに長けたユーザーの一部によるグループが、この動画生成AIツールを外部から使用可能にするフロントエンドを作成し、AI開発プラットフォーム「Hugging Face」に公開したことが明らかになった。記事執筆時点では、この動きに気づいたOpenAIまたはHugging Faceが対応したのか、公開されたフロントエンドによるSoraへのアクセスは遮断されている。

このフロントエンドは、短い説明文を入力するだけで、誰でも最大10秒間（1080p解像度）の動画を生成できるようになっている。TechCrunchは、これを試用することができたと伝え、同フロントエンドを使った複数のユーザーがXに公開した動画サンプルからも、OpenAIによる視覚的透かしが付与されていたと述べている。

Xに公開された、ユーザーによる生成動画は、Sora発表時にOpenAIが公開したものに非常によく似ている。

なぜこのグループがSoraへのアクセスを公開したのかだが、グループが公開書簡を発表して次のように述べている。

「われわれは早期テスター、脆弱性検証チームまたはクリエイティブパートナーになるとの約束のうえでSoraにアクセスしたが、いまはSoraがアーティストにとって便利なツールであることを宣伝するための『アートウォッシング』に利用されているだけだと感じている。アーティストは無償で働く研究者ではない。われわれは彼らの無料のバグテスターでも、客寄せパンダでも、学習素材でも、検証用トークンでもないのだ」と述べている。

なおグループは、自分たちがAI生成技術を否定しているわけではないことを強調している。彼らは上記の声明に続けて「われわれは、AI技術を芸術用ツールとして使うことに反対しているわけではない（反対していたのなら、おそらくこのプログラムに呼ばれなかったはずだ）。われわれが同意できないのは、このプログラムの展開方法と、公開される可能性のあるリリースに先立ってツールがどのように形作られているかにある。われわれは、OpenAIがよりオープンで、よりアーティストに優しく、PRを目的とした活動以上に、芸術をサポートするようになることを願ってこれを世界に公開している」とした。

さらに、彼らは生成したコンテンツはすべて公開する前にOpenAIによる承認を受けなければならないとする条件についても、不満を述べている。

公開書簡について問い合わせたThe Vergeに対し、OpenAIは「Soraはまだ研究プレビューの段階であり、より幅広く利用可能になるよう、創造性と安全性・堅牢性のバランスを取るべく取り組んでいるところだ」「大勢のアーティストがアルファ版の新機能や安全対策の順位づけ作業に参加・協力してくれたが、傘下は任意で、フィードバックや指定したツールを試用することは義務ではない。われわれはアーティストに無料でのアクセスを提供できることを喜ばしく思っており、助成金、イベント、その他のプログラムを通じて彼らのサポートを続ける」とし、グループの主張をかわしている。

そして「われわれは、AIが強力な創造ツールになり得ると信じており、Soraを有用かつ安全なものにすることに尽力していく」と付け加えた。

OpenAIの側からすれば、タダでも良いからSoraを使いたいと思う人たちを集めて協力してもらっている、という意識かもしれない。だが、最近数十億ドルを調達し、企業の評価額が1500億ドルを超えている企業なら、製品化に向けて必要な、安全性や脆弱性の検証作業を何百人ものアーティストに無償で担わせるのでなく、しかるべき謝礼を出すべきかもしれない。