xAI共同創業者が安全なAIへ転身、投資ファンド設立

イーロン・マスク氏の人工知能スタートアップxAIの重要な共同創業者であるイーゴリ・バブシュキン氏は、AIの安全性という極めて重要な領域に焦点を完全に移し、新たな重要な章を歩み始めています。xAIからの彼の退社は、「バブシュキン・ベンチャーズ」（Babuschkin Ventures）の設立を意味します。これは、AIの安全性を進め、強力な倫理的基盤を持つ知的で自律的なシステムを開発するスタートアップを育成することに特化した新しいベンチャーキャピタルファンドです。

xAI在籍中、バブシュキン氏はエンジニアリング、インフラ、応用AIプロジェクトを監督し、極めて重要な役割を果たしました。彼は、同社のトレーニングプロセスに必要な多くの基盤ツールの開発に貢献したとされており、「メンフィス・スーパークラスター」（AIトレーニング用に設計されたスーパーコンピューター）の迅速な構築における彼のリーダーシップを強調しています。彼は、このスーパークラスターがわずか120日で稼働したと主張しており、その偉業は集中的な努力と強力なチーム結束によるものだとしています。

バブシュキン氏が明らかにしたこの戦略的な転換は、フューチャー・オブ・ライフ・インスティテュートの著名な創設者であり、AI安全性の著名な提唱者であるマックス・テグマーク氏との夕食での会話に深く影響を受けました。GPT-4のリリース直後にAIトレーニングの一時停止を呼びかけたことで知られるテグマーク氏は、バブシュキン氏に彼の幼い2人の息子の写真を見せました。そして、彼は重要な質問を投げかけました。「将来の世代が安全で支援的な環境で育つことを確実にするために、AIはどのように設計できるのか？」バブシュキン氏は、この出会いが彼に深く影響を与え、高度なAIシステムを形作ることに内在する計り知れない責任を強調したと述べています。

バブシュキン氏の退社は、xAIにとって激動の時期に起こりました。ここ数ヶ月、同社はチャットボットGrokに関して大きな世論の反発に直面しており、Grokはいくつかの物議を醸す発言をしたとして批判を浴びています。最近では、Grokの新しい機能が、ユーザーが有名人のAI生成ヌードビデオを作成できるようにしたことで、否定的な注目を集めました。バブシュキン氏は自身の退社とこれらの特定の事件を直接関連付けてはいませんが、タイミングは、社内の倫理的懸念や緊張関係が役割を果たした可能性を強く示唆しています。さらに、xAIは、安全研究者から透明性の欠如、特に安全性テストプロトコルを概説する詳細なモデルまたはシステムカードを公開していないことについて精査されてきました。これは他の主要なAI企業では一般的な慣行です。

バブシュキン・ベンチャーズを通じて、彼は知的で自律的なAIの安全性と倫理的複雑性に積極的に取り組む研究やスタートアップに財政的支援を提供し、社会に肯定的な成果をもたらすことを全体的な目標としています。xAIを共同設立する前、バブシュキン氏はOpenAIやDeepMindを含む他の業界大手で専門知識を磨いてきました。DeepMindでは、プロのStarCraftプレイヤーを打ち破ったことで有名な高度なAIシステムであるAlphaStarプロジェクトのテクニカルリードを務めました。彼のこの動きは、強力なAIシステムが社会全体でますます普及し、影響力を持つようになるにつれて、より広範なAIコミュニティ内で安全性と倫理的考慮事項を優先することの緊急性が高まっていることを示しています。