AIインパクト台帳

AIの言説は、しばしば2つの不満足な陣営に分かれる。一方はAIを避けられない救済として扱う——生産性、医学、教育、創造性、豊かさの汎用エンジンとして。他方はAIを迫り来る惨事として扱う——失業、監視、操作、依存、制度的崩壊の力として。

両方の枠組みには真実の断片が含まれる。どちらも統治には不十分である。真の問いは、AIが善か悪かではない。真の問いは、どのような条件下でAIが人間の生活を改善し、どのような条件下で社会から価値を抽出し、導入が不可逆的になる前にどのような安全策が必要かである。

したがって、真剣なAIと社会イニシアチブは、インパクト台帳から始めるべきである。

AIインパクト台帳は、技術的性能以上のものを追跡する。システムが参入する領域を改善するのか、それとも一組織内のコストを削減するだけで害を他に外部化するのかを問う。

教育において、AIは理解を深めるのか、それとも流暢な依存を生み出すのか？ジャーナリズムにおいて、情報へのアクセスを広げるのか、それとも低コストの合成ノイズで公共圏を氾濫させるのか？医療において、診断とケアを改善するのか、それとも患者が異議を唱えられない不透明なトリアージシステムを生み出すのか？仕事において、人間の能力を拡張するのか、それとも専門知識が通常形成される入門レベルの道を溶解するのか？

台帳には利益を含めなければならない。外部性も含めなければならない——注意コスト、エネルギー使用、データ抽出、技能低下、バイアス増幅、説明責任のギャップ、心理的依存、民主主義的脆弱性。

持続可能なAIは、しばしばエネルギー、チップ、データセンターという観点で議論される。これらの問いは重要である。しかし、社会的持続可能性も重要である。

社会は、技術的に効率的だが社会的に腐食性のあるシステムを採用することができる。管理コストを削減しながら孤独を増やすことができる。教育を個別化しながら共有基準を弱めることができる。カスタマーサービスを自動化しながら、機関の到達不能さを正常化することができる。無限のコンテンツを生成しながら、創造を意味あるものにする文化的条件を劣化させることができる。

したがって、持続可能性の問いはより広い——このシステムは、それが依存する人間的、市民的、文化的、生態学的基盤を弱めることなくスケールできるか？

多くの組織はAI倫理を立ち上げ要件として扱う——方針文書、リスクレビュー、コンプライアンスチェックリスト。しかし、最も重要な害は、ユーザーが適応し、インセンティブが変化し、エッジケースが蓄積し、システムがインフラになる導入後に現れるかもしれない。

したがって、倫理は継続的でなければならない。監視、不服申し立てメカニズム、独立監査、インシデント報告、労働者協議、公共説明、そして実践で失敗したシステムを一時停止または逆転する権利が必要である。

AIと社会シンクタンクの目的は、イノベーションをそのためだけに遅らせることではない。人間がそれらを奉仕するために構築されたシステムよりも重要であり続けることを確保することで、イノベーションをより持続可能にすることである。