HumanSlop：時価総額1,100億ドルの企業が、なぜこれほどひどいソフトウェアを出すのか

私たちはAIのスロップを笑うが、巨大な人間の組織は何十年も自前のスロップを出し続けてきた。

最近、「AIスロップ」をめぐる嘆きがずいぶん多い。

AIが生成したウェブサイト。AIが生成したコード。AIが生成したコンテンツ。使おうとするまでは何となく正しく見えるインターフェース。技術的には存在するが、明らかに考え抜かれていない機能。誰かがプロンプトを打ち、結果をちらっと見て、そのまま出したとしか思えないプロダクト。

その批判の多くは的を射ている。しかし人間は何十年もひどいソフトウェアを作り続けてきたし、しかもAIスタートアップには想像もできないような資源を使ってそれをやることがある。

最近、Enbridgeという会社で特に見事な例に出くわした。調べた時点で、この会社の時価総額はおよそ1,100億ドルだった。

ガス料金を払おうとした日のEnbridgeの時価総額。

その数字を少し噛みしめてほしい。

1,100億ドル。

その規模の組織が使える資源の、ほんのわずかな一部でも手元にあったら何が作れるか想像してみてほしい。世界中から一流のエンジニアを雇える。プロダクト、デザイン、セキュリティ、アクセシビリティ、QA、インフラ、カスタマーエクスペリエンスの専任チームを維持できる。主要なブラウザ、デバイス、決済ネットワーク、認証方式のすべてで全フローを検証できる。飽きるまでユーザビリティ調査を繰り返せる。

とんでもなく良いウェブサイトが作れるはずだ。

ところがEnbridgeが作ったのは、13文字を超えるパスワードを使わせてくれないサイトだった。

それがHumanSlopだ。

ガス会社がサイトを「刷新」した

私がEnbridgeの新サイトにたどり着いたのは、銀行経由で設定していたオンラインの請求書支払いが解約されたという通知を受け取ったからだ。ガス料金を払う方法はすでに完璧に機能していたのに、Enbridgeが自社側で何かを変え、移行を強制してきた。

まあいい。システムは変わるものだ。

新しいサイトに行き、アカウントを作ろうとして、これに出迎えられた。

パスワードは13文字を超えることはできません。

私のパスワードマネージャーが受け取った返答。

13文字。

2026年に。

私たちは何年もかけて、パスワードマネージャーを使い、長くランダムなパスワードを生成し、短くて覚えやすい認証情報の使い回しをやめようと訴えてきた。私のパスワードマネージャーは期待どおりの仕事をして、強いパスワードを生成した。Enbridgeの真新しいシステムの返答は、要するにこうだった。

待て待て。そんなに安全にするな。

これはメインフレームの裏にある古びたグリーンスクリーンのアプリではない。北米最大級のエネルギーインフラ企業の、顧客向けの新しいウェブサイトだ。

もう一度、関わっている資源を考えてほしい。この規模の会社なら、洗練されたID基盤も、ペネトレーションテストも、セキュリティコンサルタントも、自動テストスイートも、専任のセキュリティエンジニアも、好きな認証ベンダーも用意できる。

その機構のどこかで、最終的な答えはこうなった。

パスワードの最大長：13。リリースしろ。

そしてデザインの話

バグに出会う前から、このサイトは2003年のSharePoint移行から救出されてきたように見える。

よく見てほしい。

巨大なグレーのヘッダー。極小の入力欄。下線付きの青いリンク。「サインイン」と「お問い合わせ」だけが入ったサイドボックス。びっしり詰まった説明文。硬い枠線。小さなボタン。現代的な顧客ポータルというより、1998年に郡庁舎で給付を申請するときに使いそうなレイアウトだ。

それでいてページは誇らしげにこう書いている。

「新しいオンライン体験へようこそ！」

この一文が、この件で一番おかしい部分かもしれない。

何と比べて新しいのか。Telnetか。

これはおよそ1,100億ドルの価値がある会社だ。その「新しいオンライン体験」は、点滅する<marquee>タグと「Internet Explorer 6 推奨」バッジがフッターにありそうなサイトに見える。

企業サイトがすべてAppleのように見えるべきだ、という話ではない。その必要はない。公共料金の請求ポータルはむしろ退屈であるべきだ。清潔で、速く、分かりやすく、アクセシブルで、失敗しようがないものであるべきだ。

だがこれは良い意味での退屈ではない。情報設計、タイポグラフィ、階層、余白、コントロール、インタラクションのパターンがすべて古いから、古く見えるのだ。

そして繰り返す。

1,100億ドル。

ソフトウェアを作るために10億ドルだけあると想像してみてほしい。

世界最高クラスのプロダクトデザイナーを雇える。あらゆる顧客接点で機能するデザインシステムを作れる。何千人もの実際の顧客でポータルをテストできる。ログイン体験を完全に滑らかにできる。請求画面をデスクトップでもモバイルでも美しく動かせる。アクセシビリティ、パフォーマンス、ユーザビリティを、改善余地がほぼ尽きるまで突き詰められる。

もちろん、これらに10億ドルは要らない。ごくわずかな金額で、このページよりはるかに良いものが作れる。

だからこそ面白いのだ。

これは資源が足りない会社の話ではない。

これは、資源が制約でなくなり、組織の質のほうが制約になったときに何が起きるかという話だ。

そしてサイトが動かなくなった

パスワード要件を回避したあと、今度は漠然としたエラーが返ってくるようになった。

「こちら側で問題が発生しています。数分待ってから再度お試しください。」

「新しいオンライン体験」がしてくれるもう一つのこと。

どんなサイトでも苛立たしいが、状況がそれを悪くしている。私はEnbridgeの胸躍る新しいデジタル体験のベータテストに志願したわけではない。以前の支払い方法は機能していた。Enbridgeがそれを取り上げ、代替へ誘導したのだ。

顧客に移行を強制するなら、その代替は動くべきだ。

これは議論を呼ぶプロダクト哲学ではないはずだ。まして移行を強制している会社の価値が11桁ならなおさらだ。

American Expressの仕組みを忘れた1,100億ドル企業

ようやくクレジットカードのフォームにたどり着いた。EnbridgeはAmerican Expressを利用可能なカードとして表示していたので、Amexの情報を入力した。

そしてセキュリティコードの欄に来た。

American Expressのセキュリティコードは4桁だ。

Enbridgeのフォームは3桁しか受け付けなかった。

3つ数字を入れて、4つ目を打とうとした。何も起きない。欄がただ拒否した。

これが私のお気に入りのバグだ。あまりに単純で美しいからだ。

デバッグすべき高度なエッジケースはない。分散システムの奥に潜む競合状態もない。水星が逆行する火曜日にだけ出る難解なブラウザ非互換もない。

American Expressのカードのセキュリティコードは4桁である。

American Expressを受け付けると言うなら、フォームは4桁を受け付けなければならない。

要件はそれだけだ。

新人の開発者でも理解できる。QAなら見つけられる。自動の結合テストでも見つかる。Amexで昼食代を払うプロダクトマネージャーでも気づく。

それなのにこのバグは、1,100億ドル企業の中にあるエンジニアリング、ベンダー、デザイン、QA、セキュリティ、デプロイ、承認のあらゆる機構をくぐり抜け、反対側から生きて出てきた。

それはそれで大したものだ。

本当に、10億ドルで何が作れるか考えてみてほしい

10億ドルは大きすぎて抽象的になるので、Enbridgeの1,100億ドルという評価額はいったん忘れよう。

誰かが10億ドルを差し出して、こう言ったと想像してほしい。

地球上で最高の公益事業カスタマーエクスペリエンスを作れ。

何が作れるだろうか。

年収25万ドルで優秀なエンジニアを500人雇い、8年間働いてもらえる。

プロダクトデザイン、フロントエンド、バックエンド、セキュリティ、アクセシビリティ、信頼性、モバイル、決済、顧客調査、アナリティクス、QA、インフラの専任チームを組める。

本番を丸ごと再現するフルスケールのテスト環境を作れる。

あらゆる決済手段を検証できる。あらゆるブラウザ。あらゆる端末。あらゆるアクセシビリティのシナリオ。あらゆる認証フロー。

実際の顧客に報酬を払い、一日中サイトを壊そうと試してもらえる。サービス対象のあらゆる層でユーザビリティ調査を実施できる。視覚障害、運動機能の制約、技術に不慣れといった人たちが、苛立たずにガス料金を払えるようにする専門家を雇える。

アプリも作れる。世界水準のウェブ体験も作れる。APIも作れる。リアルタイムの請求予測、エネルギー使用量の分析、停止情報、自動引き落としの管理、アカウント共有、アラート、通知、主要なデジタルウォレットとの連携も作れる。

プラットフォーム全体を何度も作り直すこともできるだろう。

それを全部やってもなお、数億ドルが残る。

そして思い出してほしい。Enbridgeの価値はそのおよそ110倍だ。

もちろん時価総額は金庫の中の現金ではない。Enbridgeが1,100億ドルを積んで、誰かがパスワード欄に使うのを待っているわけではない。そこが論点ではない。

論点は規模だ。

残高4万ドルでサーバーを維持しようとしている創業者の話をしているのではない。

これらの問題を解くのに必要なあらゆる専門性に、事実上無制限にアクセスできる巨大企業の話をしている。

その結果が、何十年も前に見えるデザインで、現代的な長さのパスワードを拒み、漠然としたサーバーエラーを吐き、American Expressに対応していると謳いながらAmerican ExpressのCVVを受け付けないウェブサイトだ。

これは資源の問題ではない。

これがHuman Slopだ。

プロセスを増やしても、良いソフトウェアになるとは限らない

ソフトウェア開発で最も奇妙な前提の一つは、組織的なプロセスを増やせば自然に品質が上がる、というものだ。

巨大企業にはおそらく、プロダクトマネージャー、プロジェクトマネージャー、エンジニア、デザイナー、セキュリティチーム、QAチーム、外部ベンダー、コンサルタント、コンプライアンスの手順、ステージング環境、デプロイ手順、チケットシステム、承認フローがある。理屈のうえでは、そのすべてが決済フォームのようなものをより確実にするはずだ。

しかし複雑さは責任も薄める。

認証チームが一部を持つ。決済ベンダーが別の一部を持つ。フロントエンドチームがフォームを持つ。デザインシステムがコンポーネントを規定する。セキュリティが要件を出す。プロダクトが受け入れ基準を書く。QAは文書化されたケースを検証する。一部は業務委託先が作る。

全員が割り当てられた仕事を正しくこなしても、最終的なプロダクトは悪いままでありうる。

そこが私には興味深い。

誰か個人が愚かなものを作ろうと決めたわけではない。組織が集団として愚かさを生み出したのだ。

人によるレビュー、計画、会議、テスト、調達、承認の層をいくつも通り抜けたシステムが、それでもなお、自ら対応を謳うカードのセキュリティコードを受け付けられないまま本番に到達しうる。

金で人材は買えるが、当事者意識は保証されない。

金でプロセスは買えるが、判断力は保証されない。

金でQAチームは買えるが、誰かが当たり前のことを試したかは保証されない。

ときにそのプロセスは、スロップを高価にするだけだ。

AIのスロップには少なくとも言い訳がある

だからこそ、AI生成ソフトウェアをめぐる憤りの一部が私にはおかしく見える。数年しか存在していない技術を、何十年もかけてこれを解決する時間があった人間のソフトウェア組織と比べているのだ。

もちろんAIは時に悪いコードを書く。もちろんエージェントは要件を誤解しうる。もちろん生成されたインターフェースは変な前提を含みうる。それらは正当な問題であり、AIが生成したソフトウェアは絶対にユーザーに届く前に検証されるべきだ。

だが、何百人、何千人もの人間と、成熟したエンジニアリング手法と、巨額の予算と、何十年もの組織的知識が同じ結果を出したとき、言い訳はいったい何なのか。

AIのコーディングエージェントが3桁しか受け付けないAmexのフォームを作ったなら、私はたぶんこう言える。

American ExpressのCVVは4桁です。これを直して、リグレッションテストを追加してください。

数分後には直っている可能性が十分ある。

巨大な人間の組織のほうは、そのバグを本番まで送り届けてしまった。

本当の問題はインセンティブ

Enbridgeの一件が普通のひどいサイト以上に引っかかった理由がもう一つある。私はこれについて何ができるのか、という点だ。

ネット通販の決済がひどければ、別の店で買える。SaaSが悪化すれば解約できる。レストランの接客がずっと悪ければ行くのをやめる。

競争は残酷だが効果的なフィードバックループを作る。

顧客を不快にさせ続ければ、いずれ顧客を失う。

公益事業は違う。

EnbridgeのUXに失望したと宣言して、別の会社に競合の天然ガス網を自宅へ引いてもらう、というわけにはいかない。

私の交渉材料は何なのか。

「サイトを直さないと、地中のガス管を競合他社に持っていくぞ」とでも言うのか。

顧客が簡単に離れられないとき、悪いソフトウェアを罰する最も強力な仕組みの一つが消える。

だからといって、Enbridgeの誰かが意図的に顧客体験はどうでもいいと決めたわけではないだろう。良い仕事をしたいと強く思っている人はたくさんいるはずだ。しかし、誰も口に出さなくてもインセンティブは効いている。

顧客を失いようがないなら、顧客を喜ばせる圧力は単純に別物になる。

そしてその欠落は、プロダクトから感じ取れることがある。

これらは難しい問題ではない

たぶんそれが一番気になる点だ。

私の不満はどれも難しいエンジニアリングを必要としない。

Enbridgeに核融合を解決しろと言っているのではない。

私が求めているのはこれだけだ。

• 現代的な長さのパスワードを許可すること。
• サイトを動く状態に保つこと。
• 4桁のCVV欄で4桁を受け付けること。
• 何十年も前に見えない顧客ポータルを作ること。
• 顧客に移行を強制する前に請求システムを検証すること。

これらはすでに解かれた問題だ。

有能な開発者なら昼までにいくつか直せる。有能なデザインチームなら何も発明せずにインターフェース全体を現代的にできる。有能なQAプロセスならAmexのバグを即座に捕まえるはずだ。

それなのに、そのすべてが数百億ドル規模の会社で本番まで生き延びた。

ソフトウェア品質への主な脅威はAIを手にした未熟な開発者だ、という前提を考え直すべきではないか。

ときには、AIエージェントを使う未熟な開発者のほうが、4桁CVVの問題に気づくかもしれない。

人間に品質の免罪符はない

私はAI支援のソフトウェア開発に期待している。同時に、それが生み出しうるゴミには極めて厳しくあるべきだとも思う。この二つは完全に両立する。

生成されたコードにはレビューが要る。エージェントにはテストが要る。AIが作ったインターフェースには実ユーザーが要る。生成が安くなったというだけの理由で、企業がゴミを出していいわけではない。

だが基準は双方向に働かなければならない。

モデルが手伝ったというだけで、ソフトウェアが品質の免除を受けるべきではない。

そして人間が作ったというだけで、ソフトウェアが品質の免除を受けるべきでもない。

壊れたフォーム、意味の通らないUX、セキュリティのミス、明らかに検証されていない機能をAIに対して笑うなら、まったく同じ基準を従来のソフトウェア組織にも適用すべきだ。

むしろもっと高い基準を。

AIのスロップは、私たちがまだ理解しつつある技術が生み出したものだ。

人間のスロップは、何十年も分かっていたはずの上で生み出されている。

次に誰かが、ばかげたAI生成アプリを見せて、機械にソフトウェアは任せられない証拠だと言ってきたら、私はおよそ1,100億ドルの価値がある会社を思い出すつもりだ。新しい請求サイトが私の安全なパスワードを長すぎると判断し、「新しいオンライン体験」は2000年問題を生き延びたように見え、決済フォームは私の4桁のAmex CVVが3桁に収まるはずだと考えた、あの会社を。

10億ドルで何が作れるか想像してほしい。

そのうえで、その110倍の価値を持つ組織の資源を手にして、これを出すところを想像してほしい。