- AI企業の商業的な言説と、自社の内部業務プロセスの実態との間のギャップ。
- 自動化が進む中でも、紛争解決や顧客サービスにおいて、人間の判断力と共感力が依然として必要とされる。
- 知的財産権と生成モデルの学習のためのデータ利用に関する倫理的矛盾。
テクノロジー業界が、自動化によってあらゆる問題が解決される未来を謳っている一方で、実際には、そうしたツールを開発している企業自身が、都合の良い時には時代遅れのプロセスに固執しているように見えるのは、実に興味深い。私たちは、人工知能（AI）が万能薬として提示される壮大な約束の時代に生きているが、それはしばしば、より現実的で、時には矛盾した現実と真っ向から衝突する。
積極的なマーケティングの表面を少し掘り下げてみると、 AIができることと、開発者自身が実際にビジネスに導入しようとしていることの間には、大きな隔たりがあることがわかります。これはテクノロジーの可能性を否定するものではなく、企業の美辞麗句と実際のサービス提供が一致しないときに生じる、デジタルに対する懐疑心を浮き彫りにするものです。
OpenAIの事例：自分が家庭で実践していないことを他人に説くこと
OpenAIのPROサブスクリプションの払い戻しをリクエストしたいと想像してみてください。最先端の技術革新の成果であるOpenAIなら、シームレスなシステムが備わっているはずだと期待するでしょう。しかし、驚くべきことに、欧州連合における解約権という基本的な権利を行使しようとすると、AIはすぐに諦めて人間のオペレーターに引き継いでしまうのです。何時間も待たされた後、ようやく本物のオペレーターがリクエストを処理してくれるのでした。
最も皮肉なのは、同じ会社が航空業界を例に挙げながら、払い戻しを管理する自律型エージェントのプログラミング方法を詳細に教えるコースを提供していることだ。これはまさに「言うこととやることが違う」という典型的な例で、自社の業務上のメリットのために自ら導入できていないプロセスを自動化するためのツールを顧客に売りつけているのだ。
欧州法に基づく払い戻しの流れを分析すると、地理的エリアを確認し、14日以内であることを確認し、支払いを実行するという、厳密に決定論的なタスクであることがわかります。OpenAIがこれをモデルに委任せず、開発者にAPIを使用して同様の処理を行うことを推奨しているという事実は、自律エージェントの現状を明確に示しています。
人間的価値への回帰とKlarnaの現実
方針転換を余儀なくされたのは彼らだけではない。顧客サービスをAIに置き換えることを最も強く主張していたKlarnaのCEOも、最終的には人間ほど価値のあるものはないと認めた。世界を技術革新への楽観主義で満たした後、彼は他者と心を通わせる能力こそがかけがえのない財産であると結論づけたのだ。
この発見は偶然ではない。ユーザーが深刻な問題や苛立ちを抱えている場合、チャットボットはしばしば顧客の怒りを煽ってしまう。一方、人間による対応は、簡単な言葉で感情的な高ぶりを察知し、会話のトーンを調整して怒りを鎮めることができる。これはAIがまだ自然には再現できないことだ。
さらに、実際の従業員はビジネスにとって重要なセンサーとしての役割を果たします。サポート担当者は、チケット内の異常なパターンを検出し、状況理解に基づいて特定の製品障害についてエンジニアリング部門に警告することができます。これは、業界の先見者たちがAIに取って代わられると予測している定性分析能力ですが、実際には依然として大部分が人間の手によって行われています。
エゴのぶつかり合いと知的財産権侵害
偽善は運用レベルにとどまらず、モデルの学習における倫理にも及んでいる。大企業は、許可も対価も得ずに何千冊もの書籍や論文を自社のシステムに利用してきた。これは、他者の著作物を「フェアユース」という概念の陰に隠れて盗用する、AI業界の「大物」たちの常套手段なのだ。
マイクロソフトのサティア・ナデラCEOのような幹部が、「データ抽出」（小規模企業が大規模モデルを使って自社モデルを訓練すること）に関して他社の偽善を非難するのは、実に不条理だ。言い換えれば、彼らは巨大企業が著作者に報酬を支払うことなく公開データを取り込む権利を擁護する一方で、同じプロセスが小規模で自分たちに対して繰り返されると、被害者意識を持つのだ。グーグルが効率性を追求してジェミニ専用のチップを開発する際でさえ、訓練の倫理的根拠が依然として大きな論争の的となっている。
人材採用におけるシニシズム
こうした矛盾の全体像を把握するには、これらの企業の求人情報を見るだけで十分だ。例えば、Anthropic社は応募フォームの中で、応募者に生成AIを使って文章を書かないよう明確に求めており、個人の自然なコミュニケーション能力を評価したいと主張している。
AIの文章作成能力や推論能力を最も誇示する企業の一つが、選考プロセスでのAIの使用を禁止するというのは、まさに皮肉の極みと言えるでしょう。私たちは仕事のあらゆる場面でAIの導入を求められているにもかかわらず、人間の資質を評価するとなると、まさに彼ら自身が販売しているツールが障害となるのです。
こうした状況全体から、AIの潜在能力は計り知れないものの、人間の判断力を完全に置き換えることは依然として遠い夢であることが示唆される。巨大テクノロジー企業が誇大広告を垂れ流し、自社の最も基本的な業務プロセスにすら導入していないソリューションを提供し続ける限り、私たちは業界の過剰な宣伝に対して健全な懐疑心を持ち続ける必要がある。