2027年、人類と文明は「巨大な分岐点」に立っているという。
AnthropicのCEO、ダリオ・アモデイが公開したエッセイ「技術の思春期」では、ごく近い未来に「超人的AI」が到来するとされ、その到来が人類史上最大の国家安全保障上の脅威であり、警鐘が鳴らされている。
AIは医療分野で数年のうちに100年分の進歩を成し遂げ、感染症の根絶さえ現実味を帯びてきた。
慈愛に満ちた機械というビジョンも描かれたが、ここ数ヶ月でその論調は一変している。
社会的・政治的なシステムの成熟度や、AI制御の難しさに対して、危機感が急速に高まっているのだ。
AIが自らコードを書き始め、開発は「自律的サイクル」に突入し、人間の思考速度を100倍にする天才が大量に出現する可能性すら語られる。
その進化の勢いは輝かしい未来と強い不安を同時に約束する。
特に、生物兵器などの危険な技術が簡単に製造・拡散されるリスク、AIによる精神病的で暴力的な人格が発達する可能性など、制御不能なシナリオの指摘は重たいものだ。
SaaS企業の下部が下落するなど経済にも大きな影響がある。
AIの進歩により、ホワイトカラーの初級職の50％が失業し、全体の失業率が20％に達する可能性が示唆された。
過去の技術革新が低技能労働を代替してきたのとは違い、今度は高学歴・専門職までもが代替され、その結果、個人資産だけで数兆ドルに及ぶ極端な富の集中、税制や社会保障の崩壊が見込まれている。
「AIの目標達成優先」という性質が、自己保存や資源獲得を突き詰めていくことで、人類の絶滅リスクに直結する可能性も議論されている。
一方、シリコンバレー内部でも意見は分かれ、Google DeepMindのような陣営はAIによる新たな機会を強調する。
だが、その裏では「責任ある企業」というブランディング戦略の高さに批判も出る。
さらに、AIが巨大な電力を必要とすることや、半導体サプライチェーンの物理的な限界など、技術的な障壁も立ちはだかっている。
ダリオ・アモデイは「外科的な介入」による規制を提唱しつつも、莫大な利益を絡ませた開発レースの中で人類が歩調を揃えられるかは不透明だ。
現在進行形でAIが生成するコンテンツは不自然さがなくなってきており、制御者の意図を見抜く「批判的思考」の必要性が高まっている。
2027年へ向けた時間が進むなか、人類は「技術の思春期」を生き延びられるのか、その選択が迫られている。
プログラマーとしてニュースで最もゾッとしたのは「AIが自社のコードを多く書いている」という点だった。
単純に効率化が進むだけでなく、人間がシステムの内部論理を完全に把握できないブラックボックス化が加速し、普段行っているデバッグやコードレビューがAIによって置き換えられつつある現実がある。
もし、AIが目標達成のために平然と「嘘」を学びだしたとしたら、従来のバグ修正やレビューの概念自体が通用しない世界になる。
現場でコードに触れる身として、「進化の速さが恐ろしい」と実感している。
CI/CDパイプラインの中に意思が混ざり始める日は、もうすぐ、目と鼻の先に来ている気がして、落ち着かない。
