AI によって答えが安くなった後、本当に不足しているのは方向感覚です：『Superagency』を読む

最近、友人と AI について話すと、会話がすぐに 2 つの方向に分かれることがよくあります。 ある種の人は、新しいツールを披露する（新しいタブで開く）ことに興奮しており、午後 1 日で過去 1 週間の作業を完了できると話します。もう 1 つの種類の人は、仕事が置き換えられ、誤った情報が制御不能になり、最終的には人間の判断さえも外部委託されることを心配しています。

リード・ホフマン（Reid Hoffman）とグレッグ・ベアト（Greg Beato）の共著である「Superagency（新しいタブで開く）」 は、これら 2 つのよく知られた立場にとどまりません。それは、より価値のある質問を提起します。 AI によって、かつては少数の専門家だけが持っていた知恵に誰もがアクセスできるようになったら、私たちはこの能力をどうするのでしょうか?

これを読んで、私が一番得したのはこの一文です。 AI時代に本当に不足しているのは、もはや答えではなく、自律的に行​​動する能力なのかもしれません。 ツールは提案を提供し、情報を整理し、私たちの代わりにいくつかのタスクを実行することさえできますが、方向を設定し、結果を判断し、選択に耐える人間の能力が、これらの能力が最終的にどこにつながるかを決定します。

AI がもたらす変化は効率だけでは測れない

この本では、AI によって提供される「https://zh.wikipedia.org/zh-tw/%E5%90%88%E6%88%90%E6%99%BA%E8%83%BD)」（合成知能）を産業革命の「合成エネルギー」と比較しています。蒸気エンジンを使用すると、人力や動物の力だけに頼らずに生産規模を拡大できます。（新しいタブで開く） AI は、知恵を呼び起こし、拡張し、継続的に強化できるリソースにします。

このたとえ話から、AI の使い方を再考させられました。 初めて AI に触れる人が多く、最もよく聞かれる質問は「AI によってどのくらい時間が節約できるのか?」というものです。 したがって、私たちは手紙を書いたり、会議の議事録を整理したり、投稿を作成したりするためにそれを使用します。 これらの使い方は悪いことではありませんが、冷静に考えてみるとやはりAIのほうが速い機械だと思ってしまいます。

知恵が柔軟に活用できるリソースになっているのであれば、「これまでは知識、時間、専門知識が不足していたため、恐れていたことを今始められるチャンスはあるだろうか？」という質問のほうが適切かもしれません。

小規模起業家は契約をより早く理解でき、教師は生徒の違いに応じて教材を設計でき、患者は治療を受ける前に症状や疑問を整理できます。 これらに共通するのは、もともと引っかかっていたのは実行ではなく敷居だったということです。 AI が実際に拡大するのは、人々が次のステップに進んでいく可能性です。

これが、質問力は即座の言葉より価値がある と繰り返し強調してきた理由です。 執行が安くなると、決め手は「どのような問題を解決しようとしているのか」に進みます。

個人が強くなるということは、スーパーエージェント効果の出発点にすぎません

『Superagency』で最も興味深いのは、少数のスーパー ユーザーに焦点を当てていないことです。 AIを活用して判断力や行動力を向上させる人が増えれば、それらの能力は人と人とのつながりを通じて増殖していくでしょう。最終的には、AI を直接使用しない人でも恩恵を受ける可能性があります。

この本では、患者が AI を使用しなくても、医師が AI を通じて曖昧で一見無関係に見える症状を特定できる限り、患者はより良い治療を受けることができるというわかりやすいシナリオを挙げています。 自動車技術者がエンジン異音の原因をより早く突き止めることができれば、自動車の所有者にも利益がもたらされます。

このことから、AI の価値を測るとき、単に節約できる時間を数えることはできないということも思い出させられます。さらに観察する価値があるのは、この空いた時間によって、チームのコラボレーション、顧客サービス、公共の意思決定が改善されるかということです。

みんなが平凡なコンテンツをより速く作成するだけであれば、一見効率は向上するように見えますが、全体の環境の改善には役立ちません。 個人のエンパワーメントが集団的な進歩となる前に、つながり、共有される必要があります。

完璧になるまで待つ必要はありませんが、検証をやめることはできません

この本では、まだ完璧ではない AI を現実世界に導入し、使用、フィードバック、修正を通じて徐々に安全で信頼できるものにしていく「反復展開」を提唱しています。

この見解は私には現実的であるように思えます。 テクノロジーが実験室に留まると、人々はそれが実際の状況でどのような間違いを犯すかを知ることができず、具体的な規制を確立することが困難になります。 私は、AI を導入している企業 で同じような失敗を何度も見てきました。彼らは、ソリューションが完璧になるまで待ってから、あえてそれを立ち上げようとしませんでした。その結果、それが発売されたとき、それがどのような問題を解決しようとしていたのか誰も覚えていませんでした。

しかし、この楽観主義には責任が伴わなければなりません。 前進しながら修正を行うということは、何か問題が起こるまで待つ必要があるという意味ではありません。 医療、金融、教育、公共統治などの高リスク分野では、AIの参加の程度を明確に示し、人間による審査を維持し、影響を受ける人々に異議を申し立てたり拒否する権利を認めたりする必要がある。 これは、論文投稿における AI 使用の開示 について話したときに私がとった立場とまったく同じです。開示とは、自分自身の欠点を暴露することではなく、テーブルの上に信頼の基礎を築くことです。

結局のところ、AI が賢くなったからといって自動的に信頼が生まれるわけではありません。 信頼は、追跡可能なプロセス、オープンな制限、結果に対して喜んで責任を負う人物から生まれます。 これらの条件が満たされない場合、「スーパーエージェント」は、いくつかのプラットフォームが勢力を拡大するための美しい言葉になる可能性があります。

AI時代、まずは方向性のある人になる練習を

「スーパーエージェント効果」が私にもたらしたのは、「AIを受け入れよう」というスローガンではなく、知恵を獲得するコストが急速に低下すると、人々の方向感覚がより重要になるという、より深刻な教訓でした。

これは、実際のタスクから始めて実践できます。 AI に答えを求めるだけではありません。代わりに、改善したいことを明確に述べ、選択肢を提供してもらい、リスクを指摘してもらい、最終的な判断は自分で行います。 完了後、どのリンクが AI に引き渡す価値があるか、どのリンクが人間の経験と責任を保持する必要があるかを記録します。

この演習が重要である理由は、2 つのことを同時に養うからです。1 つは、AI 軍団に仕事を任せる の前提となる、タスクを明確に説明する能力です。次に、思考筋の退化を防ぎます。 脳を守る AI 学習法 について話したときに、AI が人をバカにするわけではありませんが、自動的に強くなるわけでもないと述べました。違いは、自分の判断に任せるかどうかです。

ちなみに、ホフマン氏自身もLinkedInの共同創設者である。 1 レベル下を見たい場合は、LinkedIn CEO が提案した 5C フレームワーク が同じことの残りの半分について語っています。つまり、AI にできない 5 つのことは、まさに人間が努力すべきところです。

AIが社会をより良くするかどうかはまだ分からない。 ホフマンが提唱した現実的な楽観主義は、テクノロジーが自然に進歩をもたらすという信念ではなく、人々が参加、検証、修正を通じてテクノロジーを形作ることができるという信念です。

知恵がエネルギーと同じくらい遍在するようになると（新しいタブで開く）、将来の差は誰がより強力な言語モデルを持っているかだけでなく、誰が自分の行きたい場所をよく知っており、増幅された能力をより多くの人々に役立てようとするかにも依存するでしょう。

これが「スーパーエージェント効果」で考える最も価値のある教訓ではないかと思います。