巨大言語モデルの進化方向 •スケーリング則:計算量、データサイズ、パラメータの増加に性能が単調増加 •マルチモーダル情報(音声・映像・IoTデータ)の統合 •帰納的タスクから演繹的タスク(多段推論)へ相転移 •身体性・能動性の獲得による知識の自動習得 巨大言語モデル(LLM)だけなら 20億円くらいで生成できるか。 問題はそれから。 データ整備とAI倫理への対応 バイアスに対する説明責任とバイアスがもたらす副作用是正への努力義務。攻撃に対する不断の対応。 MLOps体制の整備 InstructGPTに相当する応答の順序学習 これは応用ドメイン選定が必須 投下コストに見合う収益モデルの設計 (これができる人ないと思う) LLM作るより、エンドユーザーを巻き込んだカスタマイズビジネスを成立させることが重要。それをやりながら、耐えて耐えて:) 独自LLM作成が必要ならする。:) 製造業にあるダークデータの有効活用 教育を見直さなければならない。これ大事。 Z世代、α世代を巻き込んだ社会のありようを議論すべき。