觀點 | 杭間：“迭代”的危機（一）
時間：2024-04-16 來源： 中國工藝美術學會 瀏覽量：
36 分享：
在當代，來自科技語匯的“迭代”與設計密切相關，設計迭代看似具有邏輯和理性，但與迭代一樣，潛藏著不確定的問題。影響設計迭代的因素涉及方方面面，像一個綜合全息的網，每一個點都有其深入的脈絡。它們發展的智慧路徑究竟與人的情感需要保持什么樣的關系？要回到本質去思考。AI 最近的進展，顯現了諸多復雜的問題，而設計作為特殊的中介，是否能超越學科之外，平衡迭代日益加速帶來的危機？
源于“迭代算法”的“迭代”（iteration）指重復執行一系列運算步驟，從前面的量依次求出后面的量的過程。“迭代”是指這樣的重復反饋過程的活動，其目的是為了逼近所需目標或結果，每一次過程的重復稱為一次“迭代”，而每一次得到的結果會作為下一次迭代的初始值。這樣的“迭代”，對計算機已經發明七十多年的歷史來說也很平常，人們覺得機器的“重復”工作可靠而不需要擔心人力的錯誤，“迭代”也是一種計算機“自然”的工作步驟。
而這幾十年的發展，計算的規模和復雜性的增長速度甚至超過了摩爾定律的指數曲線。直到以GPT為代表的AI 的迭代升級出現，曾經的jischat GPT3.0 以后的每一次升級，都引起了廣泛的討論。在引發危機感的同時，人們甚至發出“現實不存在了”的驚呼。
這些迭代與設計有什么關系？我想在今日年輕一代的設計師中已沒有必要重復贅述。對于設計而言，每一件人工物從原型誕生到之后的層層迭代，還包括由使用者引發的各種“功能”關系的迭代，涉及因素方方面面。就像一個立體全息的網絡，這個網中每一個點，都有其深入迭代的可能，技術、風格、社會結構、生態，等等。設計迭代早已被大家認為是一個客觀存在的大命題，但曾經這種迭代關系的速度相對緩慢，即使進入現代社會以后，我們仍然可以用中文語境的“迭代”去感知、去探討。但是突然間，“迭代”變得令人感到陌生無措，也追趕不上了，很多困惑由此產生：作為技術的“iteration”是如何突然變得不可捉摸的？
這幾年我寫的文章越來越不像是純粹的設計學專業文章，講課也是如此，有時一堂課下來，講了很長時間，好像還沒講到設計。而實際上，我早已講到了，這種現象是不是意味著設計專業問題的泛化？我認為這不是一種現象，而是一種必然。在我發表的《明日的設計學院》和之前關于“系統性”“日常性”等討論的文章里，我都強調了這個觀點：因為設計是社會發展的高度中介物，很多社會變化都通過設計這件事，看到非設計或者是設計以外的巨大因素所在。[2] 比如ChatGPT 引發的社會討論問題，或者是OpenAI的內部人事爭論，實際上都可以看作一個新“設計”觀念的誕生，從里面可以看到設計以外的問題。這時，設計僅僅變成一種現象，而真正的內因反而不在設計里。“設計”越來越在“設計”之外。因此，我這幾年一直認為學校教育中不能把設計學科化、范式化。迭代的問題，首先也要從“非設計”談起。
何況，設計的迭代也早就不是一個專業化的問題，而是一個綜合的話題。包括設計史的寫法，也在發生轉向。比如《自行車：一部文化史》，就是說自行車的誕生和演變，其實也是人類出行方式的迭代。本書作者注意到自行車的發明與17 世紀初的氣候災難的相關性，大災荒導致大量馬匹死亡，影響了交通和運輸，成為自行車的設計具有社會基礎的主要原因。但是，自行車設計的進步，卻各有不同的原因。1785 年，德國人卡爾·德萊斯發明了最原始的自行車（平衡車），它只有兩個輪子而沒有傳動裝置，人騎在上面，須用兩腳蹬地驅車向前滾動，再到后來的帶鏈條的現代雛形的自行車出現，直到今天，歐洲、北美不同國家的發明者在前后輪、把手、輻條、輪胎、用材、受力與速度等功能與形式上不停止地探索，迭代發展。[3]
上述的問題導向這樣的邏輯：設計在設計之外，迭代的關鍵也在于與之相關的其他因素。這樣說來，設計迭代的不確定性，使得我們這些專業者無從把握、無所適從，是否只能讓“迭代”回到生態發展狀態？
這正是文化生態學（Cultural Ecology）提出的問題。“江山代有才人出”，說的正是“迭代”。當工業文明發展到一定程度，人類的力量越來越大，于是開始膨脹。美國文化人類學家斯圖爾德（Julian H. Steward，1902—1972）在1955 年提出“文化生態學”這個概念，一個最重要的出發點就是，把人的研究回到整個世界的生物鏈中去，還原到一種生態關系中。[4] 他通過生物鏈的邏輯來解釋人和生存環境、人和社會發展的問題，希望我們能夠重視生命和環境、社會發展之間的相互關系。這種相互關系有幾個層面：一個是建立在跟普通的物種、種群平等的基礎上，來思考人和環境、社會的關系；第二，在這個基礎上，斯圖爾德指出在生物層面上建立一個文化層，這個文化層有比較高級的人和社會、自然之間的關系，但又跟原來相對比較低級的生物層形成一種共生關系。這種兩者關系的強調，是20世紀50 年代以來，在科技的高速發展、自我膨脹時，文化上的一種很重要的提醒，是文化生態學非常具有價值的地方。
這種觀點的提出在思想路徑上并不新鮮，當時圍繞達爾文的進化論包括社會生物主義等學說，都已經有相關的發展。而且，文化生態學除了研究文化對于自然環境的適應以外，最重要的是研究影響文化發展的各種變量之間的關系，特別是像科學技術、經濟體制、社會組織以及價值觀念等對人的影響。這些影響如果把它作為大結構中的一個變量，其結構模式跟自然環境最近的就是科學技術，經濟體制和社會組織是價值觀念的，跟自然環境的關系相對較弱，因此它通過經濟體制、社會關系的這種變量來實現。但是，由于變量的提出仍是基于完全理性的邏輯，在這種邏輯下，認為一切的社會科學、人文科學，包括情感、道德，都可以用某種變量來計算、累加，結果仍然是理性至上。培根的“知識就是力量”，從某種意義上來說，也是理性（知識的）能夠產生一種可以計算的、推動社會變革的力量的一個典型觀點。這種變量的邏輯推論倒與“迭代”的方法很接近。但今天我們認為：知識并不完全就是力量，因為純粹的理性主義并不能解決所有的人文問題。
曾經的OpenAI 首席科學家伊爾亞·蘇茨克維這樣說人工智能的目標：“如果人類的發展以追求智能為唯一的目標，那我們人類就變成非常無趣了。”（圖1）人工智能的不斷發展，是作為理性的科技不斷發展的產物，盡管它變得越來越具有智能，但我們（人）需要如此高的智能嗎？如此高的智能會給我們帶來多少幸福和快樂呢？人歸根到底還是一個情感動物。也就是說，人工智能發展的局限性，實際上是邏輯、理性、一切都可以計算和量化的科學技術發展線路衍生出來的。回到文化生態學，它還是依靠這種變量的關系來討論人的文化，這究竟好還是不好？那些風俗、道德、宗教、哲學、藝術，可以用變量來討論嗎？這是我認為文化生態學局限性的地方，也是迭代邏輯本身的局限。
1. 伊爾亞·蘇茨克維，OpenAI 首席科學家（圖片來源：網絡）
為了進一步說明“迭代”在邏輯理性層面上的局限性，我再回顧一下計算機發明的思想原理。
理性是如何可以通過變量計算的？英國哲學家霍布斯（Thomas Hobbes，1588—1679）的《利維坦》（圖2）（Leviathan ，全名《利維坦或教會國家和市民國家的實質、形式和權力》）提到了唯物主義所有的理智活動都可以是形式符號。[5] 他認為人類的所有討論都可以在加減的基礎上進行，是心理上的利益計算，包括在政治、經濟等領域都在計算或算計之中。他這個理論把原來的人文社會不可以用物理科學量化發展為可以量化。因此《利維坦》這個觀點后來成為計算機邏輯計算的非常重要的理論基礎之一。
2. 托馬斯·霍布斯著作《利維坦》（Leviathan ） 封面插圖，1651，Abraham Bosse 繪，畫中巨人身體由臣服于他的眾多人群構成，下部是其龐大的統治機器與統治對象
蘇格蘭哲學家休謨（David Hume，1711—1776）認為，經驗的認知不是推理，而是通過習慣、統計學選擇感官經驗，非哲學角度的感覺物理刺激開始再記憶保存。所以他總結出來我們認知事物的過程：印象、直覺、感官感知、觀念、符號、記憶、想象力激活。這些習慣認知過程、統計機制、由人工神經網組成的統計學過程，將外界信息進行逐步抽象最終輸出，這個觀點也為計算機的計算方式起到了重要拓展作用。
還有美國數學家維納（Norbert Wiener，1894—1964） 的控制論（ 關于在動物和機器中控制和通訊的科學），對計算機發展的影響更大，機器的計算可以擴展到人和行為之間的交互性。接下來到了二戰時期的英國人圖靈（AlanMathison Turing，1912—1954），他在1936 年提出被稱為圖靈機的邏輯機通用模型，在二戰時為英國軍方工作，用他的理論建造的模型破解了德國密碼系統，加速了盟軍的勝利，因此被稱為“計算機科學之父”“人工智能之父”。
上述的計算機從原理到發明的過程，完美地闡釋了“迭代”與“理性邏輯”之間的密切關系。也就是說，到目前為止，就“迭代”這個詞英文本身的含義來說，歸根結底，它依然是由西方理性思維、邏輯發展而來的概念。但是，它并不絕對正確，它是有問題的。正如Ilya 所說，如果人類把智能當成是一個最高的追求，而忽略了人類其他要求（情感、本能等），計算機或AI 的“迭代”便是有問題的。
不難發現，現在幾乎所有對人工智能發展的“反對意見”，其本質都是對“迭代”的（不受人的情感影響的）“理性邏輯”的不安。ChatGPT4以后，甚至出現了某區域的語言的用戶出現了異常的現象。作為大數據語言學習模型，如何“投喂”和“養成”，這個問題連它的研發者都無法控制。所以，像ChatGPT 這樣的人工智能的迭代問題是誰的“理性”？無法說清楚。
綜上所述，這個局限性是可以討論“設計迭代”的本質問題的，這就是理性和情感的根本性分野。
設計迭代的一些基礎問題，需要回到本質討論。它是“人”的問題，也是人造物生產的最終目的，包括生命的死亡與新生、時間的生物發展限制等。生命的本質中雖然有基因等遺傳信息的迭代，但在死亡和新生的過程當中，它們在時間的長河中會產生其他異變。很多事件帶來生命的地理遷徙、民族融和，其影響更為顯著，社會生產發展力水平在這樣的事件中也隨之變化著。不僅是生物基因的交融、迭代，各個地方的環境、文化以及社會體制都在隨之變化，以至于族群的遺傳密碼都有了巨大的改變。
所以，從生命的本質來看死亡與新生的迭代，很難嚴格從生物學或者遺傳學的角度來看迭代的問題。美國經濟學家赫伯特· 西蒙（HerbertA.Simon，1916—2001）在《人類活動中的理性》中認為，人這種智慧生命體始終是有限理性的，不是絕對理性的。那么這個有限理性就說明了這些不可控、不可抗力，包括人的主觀感情介入造成的一些對大歷史和小歷史的改變。[6] 因此，雖然死亡與新生是基于邏輯的基因的發展，但對于個體生命的發展，其實是無法量化的。比如說歷史上超級個體的出現，一個超級個體甚至會改變區域人類發展，也不少見。
從廣義來說，地球是一個動物園。社會的進化發展如此精妙，貌似偶然，但實際上是必然的一種發展。但正因為概率為零的事情也可能發生，突破純理性的邏輯，會發生這么多好像是不可解釋的、不可預知的事情，也就不難理解。因為這正是生命的本質意義，正是因為生命的有限理性和無限選擇，才導致各種各樣迭代發生。
以機器人的生產為例，它是硅基生命。先不說硅基生命到底能不能成為通常概念上的生命，即使今天碳基生命和硅基生命可以結合，但在結合的過程當中，一定有它的融合關系，但它們如何區分理智和情感的工作？一般來說，硅基生命的智能是可以計算的，但是碳基生命的情感無法計算。未來這種新的生命體如何“迭代”？不僅是設計問題，也是倫理問題。
蘋果公司的一些核心設計師開始轉向了從事智能硬件開發的公司，馬斯克也涉足移動通訊。它是一個信號，手機這種智能硬件終端的形態也即將發生改變。智能化跟硬件結合，無論是可穿戴的設備，還是碳基和硅基的結合，都可能是一個顛覆性的改變。因為畢竟移動通信的歷史并不悠久，根據摩爾定律，大的迭代會越來越快的發生，這兩者結合深度的問題也將日益顯現。
以腦機接口為突破口，這種可穿戴設備正是影射著碳基生命和硅基生命的結合，這個過程早就開始了，它不是今天的事情。但這只是一個比喻，并不是說可穿戴設備本身的問題，就像ChatGPT 一樣，它是算法和信息處理發展到今天必然的問題。如果說2023 年是ChatGPT 元年，而人工智能早就開始了，但問題的嚴重性是，它是人工智能平民化的元年，可能涉及任何一個沒有技術門檻的人。這會造成什么后果呢？難以想象。盡管它生成的圖像和視頻仍存在一些弱點，比如在準確模擬復雜場景的物理現象方面仍存在困難，它可能不理解特定的因果關系，會搞錯左和右，以及在準確體現隨時發生的事件方面遇到困難等，但它絕不僅僅是生成圖像和視頻這么簡單，它涉及無限廣闊的領域：影視制作、相關職業、影像生產、無人駕駛、虛擬與真實倫理、人類文化保存等。那么，它的“迭代”還是原來意義上的“迭代”嗎？
“迭代”的動力是算法，算法的背后是“人”。這個“人”，不僅是設計師，也是用戶。今天的短視頻生活中，很多人被困在算法里，不知如何去掙脫信息繭房，去找到一個全新的世界。
另一方面，設計師面對AI 的新功能所表現出來的復雜心態和行為，也很值得關注。比如很多人最近將AI 作為工具，輸入指令去生成一些作品，以此滿足自己跟上潮流的快樂，他們往往給AI 提出一些淺顯的問題，并且嘲笑AI 的庸俗和生硬。殊不知，淺顯的正是自己。現在，設計職業還沒有面臨AI 真正的挑戰，但危機就在這樣的情景下潛伏。在技術挑釁和商業利益面前，相關的人工智能法律、政策也是一廂情愿的。
更令人擔心的是AI 迭代中的娛樂化趨勢，這種娛樂化會發展成一種虛擬的麻醉。很多人把AI 生成當成玩具，在喂養、試驗、談論它所能表達的各種可能性，而反過來也看到了AI 在迎合人類。人通過手機終端所展開的娛樂至死，不是不可能的。
我在2023 年12 月將要參加的重慶設計之都“2023 腹地智慧論壇”中，準備的發言題為《時代對“普通人”的意義》，重點談到“有效加速主義”和“超級對齊”。OpenAI 當年研發人工智能最初的動機是：AI 必將大量替代人的勞動，使很多人失業，但AI 使物質極大豐富，產生科技革命，不再受限于資源和能源。因此他們提出UBL（普惠基本收入計劃），這個UBL 的內容就是全世界最主要的人工智能公司，盈利以后提出比例資金，把比例資金拿出來，為所有人提供保障，也就是說用AI 來養活全世界。人工智能逐漸取代了人的勞動，很多人失業了，但是AI 公司把賺來的錢給這些失業的人，同樣讓他們過上好的生活。這“理想”仿佛有點似曾相識？是不是英特納雄耐爾就要實現了？
據說OpenAI 的“宮斗”還有很多秘而不宣的內容在里面，但現在看來，至少在它的商業化和技術理想主義之間出現了問題。當時Ilya 把奧特曼趕出董事會的時候，當天就傳出這個消息，99% 的員工都要跟著奧特曼去微軟。我當時就想，伊爾亞一定會失敗。甚至這個消息沒有傳出以前，我就已經判斷了，因為沒有人能夠擋得住OpenAI 勢頭正盛時賺錢的力量。如果像伊爾亞那么理想主義，OpenAI 是活不下去的，甚至員工工資都發不出來。用他們自己的話來說，這就是“有效加速主義”和“超級對齊”之間的矛盾。
奧特曼的觀點就是有效加速主義，“一個顛覆性的產品或者技術，最好的辦法是盡快把它拿到眾人面前，哪怕這個產品或技術還不完美，大家需要真實的反饋，比起你在象牙塔里做這個研究、那個研究肯定更有用，而理念和技術創新在長期來看總是會對人類有益。技術創新，不斷的發展，對人類必定有用”。這段話也似曾相識，就是從亞里士多德以來的技術理性，就是培根的“知識就是力量”……理性不斷地發展，層層疊加“迭代”，從此邏輯向著彼邏輯發展。這是必然的，所以叫“有效加速主義”。但是伊爾亞是理想化的，他希望能確保：當未來人類對人工智能系統的評估把握超過了那個可控的臨界點后，人類仍然有可以有效地監督人工智能系統的辦法。通俗地說：確保AI 永遠受到人的控制，這就是“超級對齊”。[7]
關于技術的本質，海德格爾在《技術的追問》里十分精辟地說過：“現代技術不是一種簡單的揭示，而是一種‘挑釁’。”[8] 這種挑釁，很像今天那些樂觀的技術精英，技術在他們心中是本質的追求，我常常在會議場合看到那些“技術精英”們源于技術炫耀的躍躍欲試。而在生活中，看到眾多服務性的App 利用算法把人的體力榨干為止，聽到許多網約車司機和外賣員說，他們的月收入，再怎么努力，仍然牢牢地被App 的算法控制。
在電影《阿麗塔：戰斗天使》（根據日本動漫木城雪戶的《銃夢》改編）中，有一個場景十分讓人震撼：在26 世紀的世界中，上等人住在浮在空中的一個名叫“耶冷”的空間站里，而平民百姓則在廢墟一般的地表“鋼鐵城”中擁擠生活。弱肉強食的鋼鐵城人，只能以器官標本的形式，才能換取“耶冷”的資源。（圖3）木城雪戶《銃夢》營造的兩個世界非常具有象征性，今天看來，天上的“耶冷”很像是未來極少數技術精英，而絕大部分在“鋼鐵城”的都是普通人。歷史上各個社會形態似乎都是80% 和20% 的關系，奴隸與奴隸主、平民與封建主、工人與資本家，未來則是普通人與技術精英。我們是不是也不能逃脫這80% 和20% 的定律？進而要問：這就是“迭代”的宿命？
杭間：中國工藝美術
學會副理事長，
中國美術學院美術館群總館長
責任編輯：張書鵬
文章來源：裝飾雜志
（
上述文字和圖片來源于網絡，作者對該文字或圖片權屬若有爭議，請聯系我會）
010-68396408
xuehuiwangzhan@126.com
北京市西城區阜外大街乙22號
