榎戸誠の情熱的読書のすすめ -3つの読書論・ことばのオアシス・国語力常識クイズ(一問一答!)-

ChatGPTが行っている作業とは? 今後の展望は?・・・【情熱的読書人間のないしょ話(3054)】

【読書クラブ 本好きですか? 2023年8月28日号】 情熱的読書人間のないしょ話(3054)

思いがけぬ涼やかな風に、「秋来ぬと目にはさやかに見えねども風の音にぞおどろかれぬる――藤原敏行」を思い浮かべてしまいました。キタキチョウの交尾(写真1、上が雄)、アカボシゴマダラ(写真2、3)、不鮮明だが飛翔中のウスバキトンボ(写真4)、マメコガネ(写真5)をカメラに収めました。カキ(写真6)の実が色づいてきました。

閑話休題、『ChatGPTの頭の中』(スティーヴン・ウルフラム著、稲葉通将監訳、高橋聡訳、ハヤカワ新書)は、ChatGPTが具体的にどのような作業を行っているのかを解説しています。私のようなIT音痴には、いささか専門的過ぎるが、本格的に学びたい人には役立つことでしょう。

今後の展望について、著者はこのように述べています。「機械学習は強力な手法であり、とりわけこの10年間で驚異的な成功を収めてきた。そのなかで最も新しい成果がChatGPTである。画像認識、自動音声認識、言語の翻訳など各分野で閾値を突破しており、対応する分野はさらに増えている。・・・『基本的に不可能』から『基本的に実現可能』に変わった処理もある。しかし、その結果が『完璧』になることは本質的にありえない。・・・数千億個のパラメーターから成るニューラルネットが、一度に1トークンずつ文章を生成しながら、ChatGPTのような成果をあげられるというのは、見事としか言いようがない。これほど劇的な、しかも予想外の成功を見せつけられると、この調子でどんどん『十分に巨大なネットワークを訓練』していけたら、きっと何でも可能になるのではないかと思うのも無理はない。だが、そうはならない。計算処理に関する根本的な事実、なかでも計算的還元不能性があるため、最終的に可能にならないことは明白だからだ」。この関門を突破するには、どうすればいいのか。ChatGPTと、著者が開発した、計算知識という強大な力を有するWolfram|Alphaを組み合わせることで新たな展開が得られるというのです。

巻末の監訳者解説に興味深いことが記されています――●ChatGPT、GPT-2、GPT-3,GPT-4と性能が向上してきて、GPT-4はアメリカの司法試験や日本の医師国家試験などで合格点を叩き出すほどになっている、●Microsoft社が開発したBingAIは同社の検索エンジンBingとGPT-4を組み合わせて構築されている、●BingAIはChatGPTには回答できない質問に正しく回答できる場合がある、しかし、計算問題では誤った回答をすることがあり、ChatGPTとWolfram|Alphaの組み合わせのほうに優位性がある。