Imagination in Actionは、2023年4月13日にマサチューセッツ工科大学のSamberg会議センターで開催されるAI技術イベントです。
AIアプリケーションに関する基調講演やパネルディスカッションを通じて、
スタートアップ、創業者、起業家が成功するAI会社を構築するためのインスピレーションが共有されました。
OpenAIのCEOのSam Altman氏のBreakthrough potential of AIに関するセッションについては大変参考になりました。
簡単にまとめますと、
・急いでLightweightなアプリケーションを作るべきではない。利用者のニーズをよく考えて、会社の長期戦略を考えることが重要です。
・fine tuningレイヤー追加しなくても基本モデルでも十分機能する。トレーニングデータを増やすより機能を考えることが重要です。
・まず行動することは大事。やっているうちに戦略が見えてくる。
以下は自分の日本語訳になります。
Q：ChatGPTを使ってどうやってビジネスを立ち上げるか？A：
良い会社を作るための原則が多数あり、今までと何も変わっていないです。
新しいプラットフォームが現れるたびに、そのプラットフォームを使用して起業する人が出てきますが、それは根本的な問題を解決することではありません。
人々が本当に好きな製品を作り、使用者に近づき、彼らのニーズを満たし、会社の長期戦略を考慮することが重要です。基本的な原則がより重要になります。
App Storeの登場は、この原則に最も近い例かもしれません。
多くの企業が非常に軽量なものを急いで作り上げましたが、それらはすぐに消えました。一方で、根本に戻ってやるべきことをすべて行うことで偉大な企業を構築しようとする企業は、過去15年間にわたって生き残っています。
テクノロジーは新しい道具になるかもしれませんが、時間をかけて継続的に成長する素晴らしい会社を作ることこそ、本当に注力すべきことなのです。
Q：ベースモデルを使い、fine tuningレイヤーを追加してバーティカルアプリケーションを開発するのは良い方向なのでしょうか？A：
実際、多くの開発者が基本モデルでも非常に便利に開発できています。
元々、fine tuningモデルを使わなければならないと思っていましたが、今はfine tuningはそれほど重要ではないかもしれないと感じています。
というのも、モデルはどんどん汎用化していますし、基本モデルを使えば使うほど、その使い方がわかってくるので、開発者にも浸透していきます。そのため、学習データを増やしても使い道が限られるようになり、大規模な言語モデルは終焉を迎えているのでしょう。
CPUが何GHzと自慢していた時代を思い出しますが、今では誰もiPhoneの世代を話題にすることもなく、ただ速いということだけを知っているのです。つまり、本当のポイントは、トレーニングにどれだけのデータを使うかではなく、どれだけの機能を素早く開発できるかということです。
また、より少ないデータでモデルをトレーニングしたり、多くの小さなモデルを連携させるという戦略もあります。
つまり、最も有用で強力で安全なモデルを提供したいのであって、データ量を強調し続けることは意味ないのです。
Q：では、来年に役立ちそうなものを予測することは可能ですか？ まだその時期ではない可能性は？A：
あえてアドバイスはしないと言いましたが、私自身がやっていることはこうです。
新しい領域は、戦術が戦略に変わっていくものです。
何がうまくいくかを考えてから追いかけるのではなく、まず何かをやって、それから起きている事を理解してそれを対応していくのです。
その方がずっと価値がある。覚えておいてほしいのは、効果あることに集中し、それをより多く行うこと、うまくいかないことには手を出さないことです。
Comments