[2024/11/14 ブルームバーグ]飛躍的なAI進歩に疑問符、開発大手3社も苦戦-費用対効果が限定的
対話型人工知能(AI)「ChatGPT(チャットGPT)」を開発したオープンAIは、画期的な成果を目前に控えていた。チャットGPTのテクノロジーを超えた新しいAIモデルの初期段階のトレーニングを9月に完了し、人間を超える強力なAIという目標に近づくはずだった。
しかし、事情に詳しい関係者2人によると、社内で「Orion(オリオン)」として知られるこのモデルは、同社の期待するパフォーマンスには達しなかった。社内の情報だとして関係者が匿名を条件に明らかにした。例えば、オリオンは訓練されていないコーディング問題の回答を試みた際に、期待通りの結果を出せなかったという。全体的に見てオリオンは既存モデルとの比較で、GPT-4がGPT-3.5から進化したほど飛躍的な進歩を遂げたとはまだ考えられていないと関係者は語った。
最近、障害にぶつかっているのはオープンAIだけではない。ここ数年、より洗練されたAI製品を次々と発表してきた業界大手のオープンAI、グーグル、アンスロピックの3社では、新しいモデルを構築するための多大な努力から得られる利益が減少している。
生成AIはスケーリング則のもとで性能を指数関数的に高めてきました。ゆくゆくは人類を超越する汎用人工知能(AGI)に達するとの青写真が描かれていました。
スケーリング則とは、より強力な計算能力、より膨大なデータ、より大きなモデルがAIの能力の飛躍的な進歩を必然的に導くという考えのことです。
ブルームバーグの引用記事は、スケーリング則に従った生成AIの進歩に黄信号が灯り始めたことを伝えています。
大きな障害になっているのはインターネット上からほとんどのトレーニングデータを使い果たしてしまい、新たに高品質なトレーニングデータを見つけることが困難になっていることです。
データが不足していれば、エヌビディアの高性能GPUを数千個、一万個搭載したサーバーも宝の持ち腐れになってしまいます。
解決策の一つはAIが自ら生成したデータをトレーニングに使うことですが、これをし過ぎると誤った回答や偏り(バイアス)の掛かった回答をしやすくなるなど、AIの性能が悪化する危険性を孕んでいます。
AIスケーリング則が今後もしばらく成り立とうがそうでなかろうが、コストが増え続けることは確実です。
★AIスケーリング則が成り立たなくなることで凋落する半導体会社もあれば、これを機会に飛躍できる半導体会社もあります。
後者に該当する半導体会社について、本日配信のアボマガ・エッセンシャルの記事に詳述しています。
アボマガ・エッセンシャルにご登録されると、この記事をご覧いただけます。さらに特典として「配当収入を増やすための資産形成・ポートフォリオ構築」に関する記事を配信致します。