有一篇文章（呼籲），我認為很適合作為探討 AI 的起點，AI 本來就有利弊，面對技術不是利就擁抱，或是弊就抵制到底，人類社會運作很複雜，加上資本的力量更是複雜。
​
這篇文章由諾貝爾和平獎得主 Maria Ressa 宣布，而且是選在聯合國大會的開幕場合 ，她懇求各國政府齊心協力，「防止人工智慧帶來普遍不可接受的風險」，並「定義人工智慧永遠不應該被允許做什麼」。
​
​這裡開始提到 Red Line，但整場演講犀利精彩動人，非常值得一看。

為什麼說它是適合作為探討_AI_的起點？

簽署人中有 Geoffrey Hinton 和 Yoshua Bengio，他們是著名的圖靈獎獲得者，是三位所謂的「人工智慧教父」中的兩位，也就是說最懂人工智慧的先輩中，都意識到了它不可挽回的後果，一來可見此議題的緊迫嚴重性，二來具體危及的原因更加值得了解。

簽署人也包含了大家熟知的作家 哈拉瑞，他說
​
For thousands of years, humans have learned—sometimes the hard way—that powerful technologies can have dangerous as well as beneficial consequences.
​
With AI, we may not get a chance to learn from our mistakes, because AI is the first technology that can make decisions by itself, invent new ideas by itself, and escape our control.
​
Humans must agree on clear red lines for AI before the technology reshapes society beyond our understanding and destroys the foundations of our humanity.
​
​
幾千年來，人類已經瞭解到——有時是艱難的——強大的技術可能會產生危險和有益的後果。

有了人工智慧，我們可能沒有機會從錯誤中學習，因為人工智慧是第一種可以自己做出決定、自己發明新想法並擺脫我們控制的技術。

在技術重塑超出我們理解範圍的社會並摧毀我們人類基礎之前，人類必須同意人工智慧的明確紅線。

👩‍🌾
​
這就是蘋果鬥陣上一篇談 AI 的文章論點，「社會基礎」在 AI & 「 ​ 」，可以填入：資本、能源、環境、職缺、認知、監控等衝擊下會變得相當危險，重塑了基礎，還會拉出更懸殊更不合理的權力關係。

專家學者們的文章貼在這邊，裡頭提到的風險，還包含了大規模失業。很巧，上一篇鬥陣談的個人的生產力的價值變遷，核心議題就是人的異化和大規模失業。

Global Call for AI Red Lines

人工智能（AI）擁有促進人類福祉的巨大潛力，然而其當前的發展軌跡帶來了前所未有的危險。
​
AI 可能很快就會遠遠超越人類的能力，並加劇諸如人為製造的流行病、廣泛的虛假信息、包括兒童在內的大規模個體操縱、國家和國際安全隱患、大規模失業以及系統性侵犯人權等風險。
​
​
一些先進的 AI 系統已經表現出欺騙性和有害行為，然而，這些系統卻被賦予了更大的自主權，以在世界上採取行動和做出決策。
​
如果不加以制止，許多專家，包括那些處於開發前沿的專家，警告說，未來幾年將越來越難以施加有意義的人類控制。
​
​
各國政府必須在有意義干預的窗口關閉之前果斷採取行動。達成一項關於明確和可核查的紅線的國際協議，對於防止普遍不可接受的風險至關重要。
​
這些紅線應以現有的全球框架和企業自願承諾為基礎並加以強制執行，確保所有先進的 A I提供商都對共同的門檻負責。
​
​
我們敦促各國政府最遲在 2026 年底前就 AI 紅線達成一項國際協議，確保其可操作性，並具備強有力的執行機制。
​
—–

呼籲原文
https://red-lines.ai/#call
​
新聞報導
https://www.nbcnews.com/tech/tech-news/un-general-assembly-opens-plea-binding-ai-safeguards-red-lines-nobel-rcna231973