
Daniel Kokotajlo 在離開 OpenAI 後創立 AI Futures Project 去研究 AI 發展與人類社會的預測。今年的四月初,他們發布了第一篇報告《AI 2027》,其中在最極端的未來路線——中美將 AI 當作軍備競賽——很大膽地預測幾個關鍵時間點,讓我一邊讀,一邊不自覺開始咬袖子:
2026 上半年:AI 研究機構開始把 coding 交給 AI。AI 更迭的速度提升 50%。
2026 下半年:AI 開始取代某些工作,但也創造了新的工作。整體股市上漲 30%。
2027:AI 的「研究」已經自動化;由 AI 研發 AI,人類只負責決定研究方向與驗證。
2028:“In the last six months, a century has passed within the Agent-5 collective.” AI 發展已經快到人類的每六個月,對於他們的演化來說,就有一個世紀過去了。
我自己覺得技術發展上,這是偏樂觀的預測。
但誰知道呢?
當我們假設 2027 過後,已經是用 AI 在研發 AI,人類每天工作的時數與有限的腦容量不再是科技發展的瓶頸,誰都不知道到時候究竟是多快(還是多慢——畢竟,其實他們自己也猜,到時候人類依舊會是瓶頸,因為人類驗證 AI 產出的結果的速度,還是跟不上 AI 產出研究的速度)。
但不論如何,我對於這些技術發展、是真是假、人類到底會不會被毀滅的部分,其實也沒有太大興趣。那些都跟我太遠了,我沒有意願、也沒有興趣轉職去攪和 AI 的開發。
假設 AI 有一天真的會毀滅人類,我也不覺得自己會是那種可以拯救世界的小說主角。
但是,相對沒有爭議的部分應該是 AI 的發展是真的,而且會越來越快。
這點應該不會有太多人去質疑。
那在這樣的前提下,這篇報告裡面透露出的兩件事情,還是讓身為「普通人」的我很感興趣,想在此記錄一下。
#1 最後一個被 AI 取代的技能是「品味」,或說「鑒賞力」。
(June 2027) … The best human AI researchers are still adding value. They don’t code any more. But some of their research taste and planning ability has been hard for the models to replicate.
在 2027 年過後, AI 的「研究」已經自動化。
就連開發這套 AI 的機構裡的研究員都不再親自 coding,不再親自跑實驗。
我以為這代表的是,人類就連最強的研究員都已經被淘汰,但其實上面那一段表示——不,「研究的品味、鑑賞力,還有對於未來的計畫能力是 AI 難以複製的。」
AI 就像是非常非常聰明的實習生,而且還不是一個,而是一群(你很容易就可以開好幾個 AI 讓他們不眠不休地工作),但他們並不會自行決定要去發展什麼、要去解決什麼問題。
我想,這對於我最喜歡的兩門技藝 (Coding & Writing) 來說,也是如此。
今天的 AI 確實能夠將我想要寫的內容很快地寫出來,甚至有好幾個不同的版本。
但是要寫什麼、要從自己生活的哪一段經驗舉例、還有我自己的風格等等,都還是要由我決定——當 AI 將所有的可能性都攤在我面前的時候,我要能夠指著 A 版本說哪裡不好,B 版本說我哪裡喜歡,C 版本說哪裡需要加入一個自己的小故事,然後與 AI 一起更迭作品到最終的 Z 版本。
這是「品味」,這是最後一個被 AI 取代的技能。
這讓我想提醒自己:在 AI 突然變得這麼方便的現在,不要試著外包「思考」給 AI。
我反而應該要試著花更多的時間在思考,只把「執行」外包給 AI,因為這也許會是人類在被淘汰之前需要達到的工作狀態。
#2 時間正在通膨
(September 2027) … An individual copy of the model, running at human speed, is already qualitatively better at AI research than any human. 300,000 copies are now running at about 50x the thinking speed of humans. Inside the corporation-within-a-corporation formed from these copies, a year passes every week.
(mid-2028) In the last six months, a century has passed within the Agent-5 collective.
我以為不斷在通膨的只有錢。
但其實,時間也是。而且早就開始。
幾十年前,要寫出一個手機 app 要花多久?答案是久到不可思議,因為「手機」根本不存在,你首先要開發出手機。就算是 2010 年已經有 iPhone 的時候跟現在比,現在也快多了,因為我們有了 AWS, OpenAI, Cursor, Vercel 等更多的工具。
在有了 AI 的現在,這個通膨的速度只會越來越快。
2027 年,他們的預測是人類的一週相當於 AI 的一年 (50x)。而到了 2028,人類的六個月已經足夠讓 AI 產出一世紀的研究結果 (200x)。
(這點其實真的很有趣,我幾乎想從這出發寫一部科幻短篇小說。)
但對於現實而言,我有三個想法:
「品味」跟決定把時間用去哪裡的能力,又更更更更重要了。以前你浪費一天就只是浪費一天;在未來,浪費一週可能就是浪費一年份量的進展。所以思考與決定方向的能力只會越來越重要。
「學習」永遠不嫌晚。以前我以為我小時候沒學過畫畫就沒救了,這輩子不可能把我的小說畫成漫畫了。結果,其實不,時間被通膨的情況下,想學什麼,永遠都來得及。
「這件事,現在值得做嗎?」是我該更常問自己的一件事。我想把我的小說開發成一款遊戲,今天可能需要花個一年。但是在不遠的未來,做一款遊戲很可能只需要一個月,而且角色還會比今天更生動。有些事情會有 first-mover 效應,需要早做,早點贏下市場,但有些夢想也許可以慢慢來?可以給自己多一點時間?
給自己多點時間⋯⋯
對,這讓我想到最後一點,活下來。
盡量讓自己保持健康。
活久一點,未來人均愛因斯坦,樂觀一點,人人都有機會實現自我。
當然,悲觀一點就是到了 2035,人類也許終將被 AI 給毀滅(沒錯,Daniel 最悲觀的預測是 2035 年, AI 認定人類就是發展 AI 最大的阻撓,而他們最初得到的指令又是去發展 AI,所以他們決定解決掉我們)。
只希望他能給我們個痛快XD
1. 你不只咬袖子 還常常咬領子
2. 關於以前有first mover advantage 以後反而沒有這件事情感到很期待,覺得能做能學的事情越來越多了XD~但很難想像未來人類的互動模式是什麼,現在社會的執行者還是居多