OpenAI勁敵、AI初創Anthropic執行長Dario Amodei周一(26日)發表近二萬字長文，籲人類需要警惕未來數年強大的AI系統或帶來潛在災難性風險。他列舉如AI科技發展不受監管，將帶來一連串風險，包括大規模職位流失及生物恐怖主義等。
他提到，人類將面臨最難以想像的龐大力量，現時人類的社會、政治及技術能力是否足以駕馭AI存在重大疑問。他認為，現時對AI的防衛遠不足夠。
他認為實力比任何諾貝爾獎得主或國家級科技人才更強的「強化AI」(powerful AI)將於數年內出現，並會帶來風險。他舉例，個別人士或利用AI開發生物武器，足以殺害數以百萬計民眾，最極端情況下足以消滅人類。他指出，「孤狼式」犯罪份子可策劃學校槍擊案，但難以製造核武或散發瘟疫，但(在AI)協助下，他的(能力)可以提升至病毒學家的水平。
Amodei又提到，AI或發展至不受控及超越人類，賦能威權政府及壞人，導致「全球極權」危機。
Amodei是OpenAI早期員工，在OpenAI方向上與Sam Altman不一致而發生衝突，隨後離職並在2020年參與創立Anthropic。他曾就美國對AI監管方向與特朗普政府AI沙皇David Sacks發生罵戰。Amodei又曾嚴厲批評美國政府批准向中國出售先進AI晶片的計劃。
他亦表示，AI或導致龐大職位流失、經濟權力集中及財富集中於科技巨頭。Amodei稱，這是個陷阱，AI很強大，像閃閃發光的寶藏，但人類文明難以對AI施加任何限制。他預警，未來一至五年，AI或動搖50%入門級白領職位，AI在未來一兩年或較所有人更強。
他提到，AI相關政治決定多圍繞捕捉新技術帶來的機遇，而不是緩解風險。Amodei解釋，科技本身不關心潮流是甚麼，人類在2026年面臨的實際危險遠比2023年時高。
英國《金融時報》報道，Anthropic正與包括微軟(MSFT.US) 、英偉達(NVDA.US) 、新加坡主權基金GIC、Coatue及紅杉資本在內投資者洽籌250億美元或以上，估值達3,500億美元。(da/a)(美股為即時串流報價； OTC市場股票除外，資料延遲最少15分鐘。)
AASTOCKS新聞