Quantcast
Channel: ネットコマース株式会社
Viewing all articles
Browse latest Browse all 34

生成AIのハルシネーションの前に自分の頭のハルシネーションを心配した方がいい

$
0
0

コロナ禍で、私たちの働き方は、半ば強制的にリモートワークに移行しました。その頃、「リモートワークで、仕事の生産性は上がったのか?」という話題が、世間を賑わしていました。その時、次のような話しを聞いて、なるほど!と思ったことがあります。

生産性が上がった人は、普段から自分のやるべきことを自覚していて、日々、そのための知識やスキルを磨いていた人たちです。移動する時間がなくなったことで、その時間を仕事や自己研鑽に充てられるようになり、ますます生産性が上がりました。

生産性が下がった人は、その反対です。誰かからの指示を待ち、誰かに頼って仕事をしていた人たちです。出社して、その場で与えられた仕事をこなし、時間になれば帰る生活を送っていたので、周りの人たちとの接触が断たれたことで、仕事が与えられる機会が減り、生産性を落としてしまいました。

生産生成が変わらなかった人もいます。そんな人は、普段から仕事をしていなかったので、リモートワークになっても、生産性は変わりませんでした。」

真偽のほどは分かりませんが、なるほど、もっともな気がします(笑)。

生成AIの登場でも同じことが言えそうです。

先日、私が主宰する「ITソリューション塾」で、TANREN代表の佐藤勝彦さんから生成AIの実践ノウハウについての講義を受けました。実に衝撃的な内容でした。もう、ここまでできるのか、ホワイトカラーの仕事のほとんどはChatGPTに置き換えられるのではないかと思えるほどでした。実演を交え、受講者の体験を促しながら、身体で覚える講義は、驚きの連続でした。

私もそれなりに使いこなしている自負がありましたが、世界がまるで違いました。ここまで使いこなし、その機能や特徴を理屈ではなく体験的に理解しているひとは、そうはいなでしょう。どのようにすれば、自分の仕事に役立つかを、試行錯誤を繰り返しながら、使えるカタチに仕上げていく姿にも感動しました。

「ハルシネーション(幻覚)があるので、仕事に使うことをためらっています。」

そんな質問もありましたが、それを克服する方法についても、なるほどという体験的知恵を出してくれました。それもまた、絶対の正解ではないかも知れませんが、「実践して、結果を出して、その結果から考えて改善する」といった「Try and Learn」から導き出された答えです。

私は、毎年1000人を越える新入社員にITトレンドについての研修をしていますが、必ず次のような質問をされる方がいます。

「プログラム・コードをAIが書いてくれる時代になれば、いまやっているプログラミングの研修なんか意味ないのではありませんか?」

新しい技術についての表面的な知識を得て、まずは頭の中で使い方やリスクを考える人が少なからずいます。タイパなのかコスパなのか、できるだけムダなことをせずに、仕事に役立つスキルを身につけたいという想いが背景にあるのかも知れません。

しかし、プログラムもまともに書けないのに、生成AIツールを評価することなどできません。ましてや、真っ当なプログラム・コードを書くには、プログラミングやシステム開発、運用や保守、システム・アーキテクチャーといった広範な知識やスキル、経験に培われた直感が必要です。そういうシステム開発全般にわたる包括的な知見もないままに、頭の中だけで拙速に答えを出そうとしても、その答えが正しい可能性は皆無に等しいでしょう。

生成AIに限った話しではありません。過去の正解がこれからも正解であり続ける保証はありません。いまの正解も直ぐに新しい正解に置き換わってしまいます。そんな時代の正解は、頭の中の知識だけでは足りません。「自分で正解を創り、実践で試し、結果から判断し、正解を作り直し続けること」つまり「Try and Learn」を高速に回し続けることが大切です。

そういう行動習慣を身につけることができれば、AIに仕事を奪われることはありません。

さて、先の新入社員の質問への私の答えは次のようなものです。

「エンジニアは、生成AIツールを駆使することで、システム開発全般の生産性を高めることができるでしょう。エンジニアは、時間や手間のかかっていたコード生成やドキュメンテーションのほとんどをAIに任せられるようになり、企画や設計、アーキテクチャーなどの高次の仕事に専念できるようになります。結果として、システム開発全般のスピードを加速させることができます。そうなれば、改善を繰り返す頻度も上がりますから、システム全般の品質は向上し、ITの適用範囲も広がり、変化に俊敏に対処できるITの実現に貢献できます。」

「頭の中だけで答えを見つけようとすると、視野は狭くなります。頭だけでなく身体も使い、体験を通じて感じて考える習慣を身につけてはどうでしょうか。そのためにもプログラミングの研修に徹底的にのめり込んで体験的にプログラミングの神髄を見つけ出してください。それこそが、AIには絶対にできないことです。それは、自分たちがこれから関わろうとするITを身体の一部にするために必要なことです。」

AIに限った話しではなく、歴史をふり返ればテクノロジーは人の仕事を奪い続けてきました。そうやって人間はテクノロジーにこれまでの仕事を任せ、新たな役割を見出し、それを極めてきました。結果として、より大きな世界の発展に道筋を創り、そこもテクノロジーに代替させ、人間は、さらにその先を創ることを繰り返してきたのです。

リモートワークになって、Zoomというテクノロジーに「移動」が奪われたわけですが、これを好機と捉えて、自らの可能性を広げた人たちと、そうでない人たちの格差は確実に拡がったように思います。これを企業に置き換えても同じことが言えそうです。

AIもまた同じで、これを好機と捉え、どう使いこなすかの正解を自分で創り、実践で試し、結果から判断し、正解を作り直し続けることができるかどうかです。これができるかできないかの格差は、大きくなるでしょう。

結局のところ、これができる人/企業は成長し、儲かり、新たなビジネスや成長の機会をこれからも手に入れることができます。できない人/企業は、ますます時代に取り残され、それこそAIに仕事が奪われるでしょう。そんな格差が、ますます大きくなりそうです。

だからと言って、私は、テクノロジーのもたらすリスクを軽んじるつもりはありません。核反応の技術は将来枯渇するエネルギー問題の解決策になりますが、世界を恐怖で支配する手段にもなります。生成AIも同様に、高度の専門家の知恵を手に入れる手段になりますが、大量殺戮兵器の開発方法を知る手段にもなるでしょう。

このような問題を解決する方法は、「こころざし」しかありません。法律や規制は一定の歯止めを与えることはできても、最後は人間の持つ「利他の精神」や「正しいことをしたい」という「こころざし」なのだと思います。

生成AIのハルシネーションを危惧して、使うことをためらっているという人がいるという話をしましたが、「こころざし」をもって、使うことで、どうすればこの問題を回避できるかを体験的に学ぶことができるはずです。そもそも、使ってみなければ、解決すべき課題は見つかりません

技術的にも、RAG(Retrieval-Augmented Generation:検索拡張生成)やファイン・チューニング、RLHF(Reinforcement Learning from Human Feedback:人間のフィードバックからの強化学習)などの解決策も提案されています。このような常識を知らないままに、断片的な知識と頭の中だけのシミュレーション(妄想)で答えを出そうとしないことです。

実践もせずに頭の中で考えて拙速な結論を導くこと

そんな態度が、最もやっかいなハルシネーションをもたらすように思います。

神社の杜のワーキング・プレイス 8MATO

banne_rpamphlet.png

IMG_4293.jpeg

The post 生成AIのハルシネーションの前に自分の頭のハルシネーションを心配した方がいい first appeared on ネットコマース株式会社.

Viewing all articles
Browse latest Browse all 34

Trending Articles