這篇文章是《Islands in the Cyberstream: Seeking Havens of Reason in a Programmed Society》一書的介紹性文章。該書是計算機科學家和社會批評家約瑟夫・維森鮑姆（Joseph Weizenbaum）與古納・溫特（Gunna Wendt）之間的對談。
技術的潛力與其實際表現之間的並置可能是相當不和諧的。那些承諾讓任務變得更簡單的工具被用來自動化人們的工作，那些吹噓其連接能力的設備讓用戶感到被疏遠，推動人類飛向太空的機器是可能給人類帶來毀滅的導彈系統的近親。** 約瑟夫・維森鮑姆 (Joseph Weizenbaum)** 在關於技術的 “矛盾角色” 的文章中雄辯地抓住了這種脫節，他指出：“我們對科學和技術的冒險已經把我們帶到自我毀滅的邊緣…… 也給我們許多人帶來了前所未有的舒適，甚至自我實現。我們中的一些人開始認為這畢竟不是一個公平的交易。”
作為一名計算機科學家和麻省理工學院（MIT）的教授，約瑟夫・維森鮑姆（Joseph Weizenbaum）因其程序ELIZA和他在編程語言 SLIP 開發中的作用而在計算機歷史上獲得了當之無愧的地位。然而，使維森鮑姆從他的同行和同事中脫穎而出的並不是他作為一個計算機科學家的成功，而是他對其領域的進步對更廣泛的社會產生的影響的認識。在他發現自己周圍人對技術比對人更感興趣的時候，維森鮑姆接受了他作為一個標誌性的、甚至是異端的角色 — — 從源頭上反擊意識形態對技術的擁抱。
對維森鮑姆來說，計算機不能與這些機器所處的社會環境相分離。因此，他拒絕了計算機評論家的頭銜，寧願把自己塑造成一個社會評論家。就像一個魔術師在揭示魔術的秘密一樣，維森鮑姆告誡計算機用戶不要被機械魔法所迷惑，即使他向他們保證，他們也可以理解這些在他們生活中工作的機器的運作。維森鮑姆堅持一種強調計算機程序員需要為他們的創造物承擔責任的精神，他把自己與那些被他嘲笑為 “強迫性程序員”、“人工智能” 以及那些拒絕思考他們工作的意義和應用的人對立起來。
從 1923 年到 2008 年，** 約瑟夫・維森鮑姆（Joseph Weizenbaum）** 目睹了重大的社會、政治和技術轉變。這些生活經歷在維森鮑姆的世界觀上留下了不可磨滅的印記 — — 尤其是他不是一個閒置的觀察者，而是這些變化的積極參與者，尤其是在技術進步方面。不僅是計算機本身，還有互聯網，以及計算機被用來實現的一系列目標，都在維森鮑姆的激昂分析之下。作為一名社會批評家和計算機科學家，維森鮑姆的批評隨著時間的推移幾乎沒有失去其力量。本書展示了維森鮑姆思想的豐富性，以及他的信念，即涉及計算機的問題太重要了，不能只留給計算機科學家。
畢竟，計算機和技術在社會中仍然扮演著一個矛盾的角色。
從柏林到密歇根再到馬薩諸塞#
** 約瑟夫・維森鮑姆（Joseph Weizenbaum）** 於 1923 年 1 月 8 日在柏林出生。雖然他的父親本身具有正統的猶太背景，但維森鮑姆的成長過程並不特別具有宗教色彩，儘管他和他的哥哥都接受過宗教教育。雖然維森鮑姆一家能夠在納粹暴行最嚴重之前逃離德國 — — 1936 年離開德國前往美國 — — 但在法西斯主義崛起中成長的經歷給維森鮑姆留下的印象將在他的餘生中一直地跟隨他，無論他去哪裡。
由於他的家人在他只有 13 歲時就離開了德國 — — 實際上，他們在他 13 歲生日那天離開了德國 — — 維森鮑姆只是初步意識到他出生的國家正在發生的變化。維森鮑姆一家離開德國的時候，至少在他看來，被納粹追捕的主要群體是政治對手，而不是那些猶太裔。然而，納粹的崛起和他們的反猶政策確實對維森鮑姆的生活產生了直接影響，因為納粹的法律迫使維森鮑姆離開了他一直就讀的公立學校，進入一所猶太男子學校。柏林，以及維森鮑姆周圍的世界，越來越成為一個不安全的地方。街角的警察從一個孩子需要幫助時可以求助的對象變成了一個猶太孩子必須躲避的人。柏林已經變成了衝鋒隊經常光顧的家園，在那裡的密室裡發生了可怕的事情，希特勒青年團的成員潛伏在街道上，等待著在維森鮑姆放學回家的路上襲擊他 — — 然而，這些事情只是對這個小男孩來說，“我們只是生活在一個殘酷社會” 的證據。儘管維森鮑姆在移民時並不清楚他的家人離開的具體原因，但他仍然意識到他的家人 “剛剛逃離了一些邪惡的東西”。隨著不安感的增加，維森鮑姆焦慮地意識到他以前的許多朋友和同學都留在了柏林，甚至當他先去英國，然後跨越大西洋時。
抵達美國後，維森鮑姆敏銳地意識到他與同齡人的區別。移民並不是他精心準備的事情 — — 它是突然發生的，也是不得已而為之 — — 因此他來到美國時不會說英語。在德國學校和德國的猶太學校接受教育後，維森鮑姆發現自己很快就必須克服自己與新同齡人之間的知識差距。他不僅要學習如何在一個新的國家生活，同時還要學習新國家的歷史。然而，對維森鮑姆來說，在他適應密歇根州底特律的生活時，與眾不同是一種力量的來源。他還在為英語掙扎，但他對數學的興趣迅速增長，因為這是一個他可以理解的學科：因為數學是一種通用語言。正是維森鮑姆對數學的喜愛，最終將他引向了計算機。
高中畢業後，維森鮑姆進入底特律的韋恩州立大學學習數學，並從那裡獲得了學士學位和碩士學位 — — 儘管他的學習因二戰期間擔任陸軍航空隊的氣象學家而中斷，但他在戰爭結束後又回到了他的學習中。維森鮑姆對計算機的了解意味著他真正參與到了當時仍處於萌芽狀態的領域，因為他在韋恩州立大學時就有機會 “作為助理參與計算機的建造”。二十一世紀的個人計算機與維森鮑姆在韋恩州立大學幫助建造的計算機僅有一絲相似之處。事實上，他參與建造的計算機 “裝滿了整個報告廳”，並被暱稱為 “旋風”（Whirlwind），而下一台計算機則被冠以 “颱風”（Typhoon）的稱號。從韋恩州立大學畢業後，維森鮑姆在私營部門短暫工作，在受雇於通用電氣公司時，他幫助美國銀行開發了自動記帳和校對系統 ERMA（Electronic Recording Machine-Accounting）。1962 年他離開了企業界，當時麻省理工學院（MIT）為他提供了一個訪問教授的職位。
正是在麻省理工學院，維森鮑姆創建了 ELIZA，在那裡他逐漸對計算機對社會的影響越來越關注。
ELIZA#
在麻省理工學院時，約瑟夫・維森鮑姆（Joseph Weizenbaum）開發了一個計算機程序，確保了他在計算機歷史上的地位 — — 這個程序就是ELIZA。ELIZA 這個名字是為這個 “語言分析程序選擇的，因為它就像皮格馬利翁中的伊麗莎一樣，可以被教得越來越好”。（language analysis program because, like the Eliza of Pygmalion fame, it could be taught to ‘speak’ increasingly well.）這個程序允許一個人用自然、對話式的語言與計算機交流。這導致計算機的反應可能會給人一種印象，即計算機理解了所說的話，甚至計算機也在回答。與 ELIZA “對話” 的人將在連接到運行該程序的計算機的打字機上用自然語言輸入信息。在他們輸入信息後，計算機將產生一個回應，並在同一台機器上顯示出來。
早期 ELIZA 運行的腳本是這樣的：程序對問題的回應方式類似於羅杰心理治療師使用的方法 — — 也就是說，ELIZA 通常會對用戶的信息做出回應，將信息中的文字以問題的形式反饋出來。事實上，對於 ELIZA 的這個化身 — — 有時被稱為醫生（DOCTOR） — — 人類用戶實際上被指示與程序互動，就像他們真的在與精神病醫生說話一樣。這個指令的原因是，它讓 ELIZA 看起來好像真的參與了對話，因為 “精神病學訪談是分類的二元自然語言交流的少數例子之一，其中一個參與者可以自由地擺出對現實世界幾乎一無所知的姿勢”。**ELIZA 的結果是，它看起來更有意識 — — 這是人類對話者將他們被理解的信念投射到計算機程序上的結果。** 當 ELIZA 回答 “多告訴我一些關於你家庭的事情” 時，對話中並沒有讓人覺得這個問題是出於對家庭的無知，而恰恰相反。
ELIZA 程序能夠通過執行 “轉換規則” 來表現出參與真正討論的樣子，該規則在程序檢測到文本中的某些關鍵詞時被應用。如果 ELIZA 收到包含某些關鍵字的消息，程序將分解出現該關鍵字的文本字符串，並以提示進一步回覆的方式將其重新組合。** 遵循這些規則，“任何‘I am BLAH’形式的句子都可以轉換成‘How long have you been BLAH’，而不受 BLAH 的含義影響”。** 用戶輸入帶有關鍵字的評論和語句，ELIZA 會獲取這些句子，並遵循腳本的規則，例如將第一人稱代詞換成第二人稱代詞，給出合適的回答。此外，在 ELIZA 沒有檢測到合適的關鍵字的情況下，腳本被設計為 “一個早期的無內容註釋，或在某些條件下，一個早期的轉換” 可以作為答案。
在維森鮑姆關於 ELIZA 的文章的第一段中，** 他承認計算機看起來就像是在表演魔術；然而，“一旦一個特定的程序被揭開，一旦它的內部工作原理被用足夠簡單易懂的語言解釋清楚，它的魔力就消失了；現在看來，它只不過是一系列程序的集合，每一個都很容易理解”。** 在這段引文之後的文章中，維森鮑姆清晰地詳細解釋了 ELIZA 的工作方式 — — 他一步一步地表明，它不是魔術的結果，也不是程序部分的真正理解，而是歸功於聰明的編程。當然，為了使對話者相信能理解 ELIZA，ELIZA 在很大程度上依賴於其腳本之外的東西。在與 ELIZA 的對話中，“如前所述，說話的人會為 ELIZA 的回答披上似是而非的外衣”。即使人類知道他們只是在與計算機交換信息，即使他們知道產生特定答案的腳本和程序，ELIZA 的魔力也證明了 “創造和維持理解的幻覺是多麼容易”。
維森鮑姆強調說，ELIZA 實際上並不理解它所收到的信息 — — 即使它的腳本生成的答復讓人覺得事實恰恰相反。一旦 “對話” 開始，ELIZA 項目的主要目的是使討論繼續下去。它通過掩蓋 “它自己的任何誤解”，以及依靠人類討論者的誠意，在遇到類似打嗝的證據，表明程序沒有真正理解他們所輸入的信息時，不會過早地離開。這種理解可能是困難的，因為人們來自不同的背景，意味著兩個人可能有非常不同的參考框架。對維森鮑姆來說，關鍵是人類 “在可接受的範圍內” 相互理解，但像 ELIZA 這樣的程序所能實現的只是 “象徵性地處理這些想法”。這本身並不是理解的證明，而只是成功執行腳本的證據。
即使維森鮑姆對兩個人能夠真正理解對方的程度持懷疑態度，但作為其創造者，他确信自己完全理解 ELIZA — — 因此，他對其他人似乎誤解 ELIZA 的方式感到相當驚訝。正如維森鮑姆所寫的那樣，“那些非常清楚他們是在和一台機器對話的人很快就忘記了這個事實”，有些人甚至 “要求被允許私下與系統對話，並且在與它交談一段時間後，不管我怎麼解釋，他們都會堅持認為機器真的理解他們”。此外，ELIZA 能夠成功地模擬羅杰斯精神分析學家的工作的程度給許多精神病學家留下了深刻的印象，其中一些人甚至建議該程序可以用於真正的病人。維森鮑姆對 ELIZA 的反應感到困惑，他發現自己對計算機科學領域其他地方出現的某些趨勢感到不安，比如試圖將人類描述為與計算機相似的趨勢，以及將人腦描述為 **“僅僅是一台肉類機器”（merely a meat machine）** 的主張。
對維森鮑姆來說很清楚的是，計算機不僅成為人們生活中的強大工具，而且 “我們已經允許技術隱喻……技術本身如此徹底地滲透到我們的思維過程中，以至於我們最終把提出問題的責任讓給了技術”。這種技術隱喻的興起，部分原因是計算機科學家逃避對他們所創造的東西的責任 — — 儘管計算機的普及使得技術隱喻在不完全理解計算機工作方式的公眾中廣泛傳播。
在 ELIZA 獲得成功之後，維森鮑姆轉向解決這些挑戰 — — 這與其說是 “計算機批評”，不如說是 “社會批評” 的壯舉。維森鮑姆逐漸成為技術隱喻的著名評論家，而他所處的位置正是這個隱喻傳播的地點之一。
關於《計算機能力與人類理性》（Computer Power and Human Reason）#
約瑟夫・維森鮑姆（Joseph Weizenbaum）的 **《計算機能力與人類理性：從判斷到計算》（Computer Power and Human Reason: From Judgment to Calculation）一書包含了很多內容：計算機基本工作原理的入門講座，計算機科學中數學原理的通俗陳述，試圖揭開計算機的神秘面紗，對計算機領域工作人員的道德挑戰，以及堅定的批評，即僅僅因為計算機可以做某事並不意味著它就應該做某事。儘管書中涉及數學和科學，甚至警告不熟悉的讀者，他們可能會發現這些部分很難，但這是一本不尋求僅僅對學術讀者對話的書。無論如何，《計算機能力》（Computer Power）並不是第一本對技術在社會中的影響進行斥責的書。歷史學家和傑出的技術批評家劉易斯・芒福德（Lewis Mumford）** 顯然影響了維森鮑姆的思想；然而，使維森鮑姆成為技術批評家的關鍵因素是 — — 與芒福德不同 — — 維森鮑姆實際上是一名計算機科學家。
《計算機能力與人類理性》一開始，維森鮑姆解釋了他的技術資歷，並表達了他與計算機打交道的經歷如何促使他寫了一本對這些機器如此批判的書。他以 ELIZA 作為本書的開篇，但不同於他在文章中向科學同行觀眾解釋了大量的技術細節，在《計算機能力》中，維森鮑姆以一種突出他自己對該程序引起的反應的驚訝的方式講述了 ELIZA 的故事。維森鮑姆指出，他驚訝於執業精神科醫生真的相信這個程序具有治療潛力，承認人們在與計算機交流中投入情感的輕鬆程度讓他感到震驚，並強調了他對自己所在領域的許多人似乎相信 ELIZA 代表了一個能夠真正理解它以自然語言接收到的提示的程序的驚訝。然而，維森鮑姆並沒有簡單地對這些古怪的對抗置之不理。相反，正如他所說，這些經歷 “逐漸使我相信，我使用 ELIZA 的經歷是更深層次問題的徵兆”。
維森鮑姆強調說，** 計算機並不是問題所在，相反，它只是具象化了一種長期以來危險的社會傾向，即以越來越機械化的方式看待人類。在維森鮑姆看來，一場辯論正在爆發，“一邊是那些簡單地說，相信計算機可以，應該，並且將會做所有事情的人，另一邊是那些像我這樣的人，認為計算機應該做的事情是有限的”。對於維森鮑姆的論點來說，“應該” 的存在是特別重要的，因為它將討論的焦點從計算機可以擁有什麼功能轉變為是否應該首先構建它們來執行這些功能。對於維森鮑姆來說，這是一個“計算機在社會秩序中的適當位置”** 的問題，這個問題也意味著計算機有一個不適當的位置。儘管維森鮑姆作為麻省理工學院一位受人尊敬的教授，他毫不猶豫地指出，“科學也可能被視為一種上癮的藥物”，由於 “服用劑量越來越大，科學已逐漸變成一種慢性毒藥”。
將計算機與人們使用的其他工具區分開來的是這些機器的自主程度 — — 這意味著一旦它們被打開，它們就可以在不需要人類進一步控制的情況下運行。時鐘（為了向芒福德致敬）是這種自主機器的重要早期例子，而計算機也同樣具有自主能力，但其功能要比僅僅記錄時間重要得多。這種機器的意義在於，它們按照現實世界的某些部分的模型運行 — — 例如，將一天劃分為 24 小時，每小時由 60 分鐘組成，每分鐘由 60 秒組成。漸漸地，在模仿現實的某些方面時，這些自動機器會把現實的模型灌輸給最初建造機器的人類。這個模型取代了它所模擬的東西。因此，在技術的支持下，“現實的經驗必須以數字的形式表現出來，以便在常識的眼中顯得合理”。
計算機在二戰前後出現，並在二戰結束後的幾年裡進一步爆發，軍事、工業和商業界將其視為解決一系列問題所需的工具，而這些問題對人類來說，如果沒有重要的技術援助是無法解決的。隨著微型化使更小的計算機能夠適應從辦公室到飛機的一切，一個過渡期穩步發生，計算機被視為新興現代社會不可或缺的組成部分。這一趨勢的最終結果是，回到以前的方式幾乎是不可想像的。然而，僅僅因為計算機被認為是不可或缺的，並不意味著它真的是不可或缺的。相反，發生的情況是，計算機僅僅成為 “社會生存的必要條件，其形式是計算機本身在塑造過程中發揮了作用”。
計算機由於與軍事需求密切相關，可能看起來正在從根本上改變社會，但在維森鮑姆的估計中，計算機 “被用來保護美國的社會和政治制度。這至少在暫時幫助他們頂住了巨大的變革壓力”。事實上，在維森鮑姆看來，計算機使得社會、政治和經濟現狀得以縮減，儘管計算機的廣泛分散使得機械世界觀在更多領域扎根 — — 同時計算機也被用來幫助支撐戰後消費主義的爆發。無論計算機是否一定是正確的解決方案，它都在一系列領域受到歡迎，“比如說，出於時尚或聲望的原因” — — 如果一個人的競爭對手，無論是商業對手還是競爭的超級大國，擁有計算機，那麼他就不能讓自己落伍。雖然計算機，正如它的名字所暗示的那樣，在計算任務方面表現出色，但由於缺乏計算能力之外的原因，仍然存在一些社會挑戰 — — “技術的有效性是一個涉及技術及其主題的問題”。但是，對計算機的崇拜只是對 “技術” 的奉承，而往往忽略了 “它的主題”。然而，即使是在 1976 年寫的文章，維森鮑姆也意識到計算機已經複雜地交織在社會中，因此重要的是認識到 **“社會新創造的行動方式往往消除了以舊方式行動的可能性”**。計算機依賴於特定類型的信息，擅長於特定類型的任務，並受到特定的社會、政治和經濟力量的引導 — — 儘管計算機可能被描繪為打開了許多門，但維森鮑姆強調，它也關閉了許多門。
計算機所代表的一個特別問題是，與簡單的工具不同，許多使用計算機的人對機器的實際工作方式知之甚少。計算機的一個令人安心的方面是它們的規律性和它們堅持常規的方式 — — 但是 “如果我們依賴於那台機器，我們就成了我們不知道的法律的仆人，因此是一個反復無常的法律。這就是我們苦惱的根源”。為了減輕這種苦惱，在《計算機能力與人類理性》一書中，維森鮑姆深入研究了計算機的工作方式，通過解釋相對簡單的遊戲來展示複雜的計算腳本，強調人們必須記住計算機完全遵守遊戲規則。雖然維森鮑姆對 “計算機的力量從何而來” 和 “計算機如何工作” 的討論不足以讓一個新手立即變成一個程序員，但這些章節仍然有助於闡明計算機內部的實際情況。維森鮑姆用傾向於技術性的密集散文解釋了圖靈機，並闡述了計算機可以將多個程序堆疊在一起的方式，指出：“所有現代計算機的機器語言的字母表都是由‘0’和‘1’兩個符號組成的集合。但是它們的詞彙和轉換規則有很大的不同…… 計算機是一個高超的符號操縱者”。儘管計算機的效率很高，但它仍然必須遵循自己的編程規則，並依賴於自己特定的語言；一個程序能夠成功地執行它的腳本並不意味著它對世界有任何真正的理解。事實上，正如維森鮑姆所言，“編程之所以困難的真正原因是，在大多數情況下，計算機對它的程序要處理的現實世界的那些方面一無所知”。
計算機及其運行的程序在自然界中並不是有機存在的。相反，計算機及其程序是人類做出的一系列選擇的物理表現。作為一名計算機科學家和麻省理工學院的教授，維森鮑姆非常熟悉那些負責決策的人，這些決策導致了更廣泛的公眾最終將使用的計算機系統。儘管維森鮑姆本身就是一名程序員，但他毫不畏懼地批評他的同行。對於維森鮑姆來說，像他這樣的 “專業人士” 和維森鮑姆所說的 “強迫性程序員” 是有區別的，前者 “將編程視為達到目的的手段，而不是目的本身”。維森鮑姆把這種人比作職業賭徒。維森鮑姆把 “強迫性程序員” 描述為把與計算機的互動視為目的本身的人 — — 儘管這種人可能在許多項目上工作，但他們的主要目標只是繼續與計算機工作，或 “入侵”。維森鮑姆對 “這些計算機流氓” 的描述令人討厭，他們 “只通過計算機存在，只為計算機而存在”，在許多方面勾勒出了一種對計算機程序員的刻板印象，這種印象一直延續到今天 — — 但讓維森鮑姆的描述特別刺人的是，他並不是在想像這種類型的人，而是在描述他在麻省理工學院擔任計算機科學家和教授期間經常見到的一種類型的人。
在維森鮑姆的估計中，將 “強迫性程序員” 吸引到計算機的原因是對計算機系統中所表現出來的力量的迷戀和崇拜。雖然，“對控制的追求是所有技術所固有的”，但計算機提供了一個空間，在那裡，熟練的程序員可以高興地抓住控制權。對於 “強迫性程序員…… 生活只不過是在一台巨大的計算機上運行的程序”，因此 “生活的每個方面最終都可以用編程術語來解釋”。對維森鮑姆來說，計算機的危險在於越來越多從事計算機工作的人代表了這些 “強迫性程序員”，他們對計算機的忠誠已經超越了任何其他價值。然而，維森鮑姆並沒有把這歸咎於任何邪惡，而是歸結於某些程序員 — — 以及其他現代科學家和技術專家 — — 將他們的技術科學手段與自身的目的混為一談的某種空虛的不負責任。** 儘管 “強迫性程序員” 可能並不缺乏技能，但這種 “技能…… 是漫無目的的，甚至是虛無的。它只是與任何東西都沒有聯繫，除了它可能被行使的工具”。** 然而，在維森鮑姆對 “強迫性程序員” 的描述中，關鍵的細節可能是，這是一個相信世界的所有複雜性都可以簡化到足以被計算機程序捕獲的簡單事物的人物。
在某些方面，計算機所代表的是一種舞台，程序員可以為其編寫腳本，然後在此執行。計算機擅長於一絲不苟地執行腳本，遵循精確的規則，因此，通過檢查它所遵循的代碼，可以理解計算機所做的事情。人類的情況則更為棘手。誠然，人類處理和回應大量的信息，人們的行為遵循一些 “科學可以發現並在某些科學框架內形式化的法則”。儘管如此，維森鮑姆對所有人類的智慧和理解都可以被簡化為符合科學框架的規則的想法表示不滿 — — 即使對這種規則存在的信仰引導了一些人工智能 (AI) 研究人員的信心。畢竟，正如維森鮑姆所說：一台機器需要什麼樣的設備才能 “思考諸如青春期愛情失望之類的人類問題”？然而，由於機器的存在，計算機程序員所持有的理論具有特別重要的品質，使這些理論不僅僅是文本。因為 “一個以計算機程序形式寫成的理論既是一個理論，當放在計算機上運行時，又是一個理論適用的模型” — — 計算機提供了腳本執行的舞台。儘管計算機可能會呈現出令人印象深刻的結果，但維森鮑姆警告說：“模型總是一種簡化，是它所要模擬的東西的一種理想化”。不幸的是，計算機的複雜性和模型固有的簡化往往只會導致對計算機能夠和已經完成的事情的廣泛誤解。
“計算機已經成為一個真正強大且經常有用的隱喻的來源”，然而 “公眾對計算機隱喻的擁抱僅僅建立在對一個困難且複雜的科學概念最模糊的理解上”。對維森鮑姆來說，這種隱喻的盛行代表了一種危險的趨勢，那些不完全了解計算機工作原理的人逐漸相信，世界上的一切都可以變成一個計算機模型。計算機隱喻使 “強迫性程序員” 的意識形態超越了那些沒有編程經驗的人，從而容易受到那些慶祝計算機所取得的最新技術成就的勸告。結果是，“計算機的隱喻變成了另一個燈柱，人們在它的光照下，也只有在它的光照下，才會去尋找迫切問題的答案”。當然，某些問題確實很適合用計算的方法來解決 — — 其中有些問題甚至似乎證明了某種人類智慧的成就，比如下棋的技巧，但維森鮑姆強調，這種勝利與計算機迅速進行計算和執行邏輯程序的實力有關。對於一些計算機科學家來說，計算機擅長解決的問題類型幾乎被視為人類試圖解決的問題類型的同義詞，但對維森鮑姆來說，“正是這種對普遍性的無理要求，使他們對計算機、計算系統、程序等的使用從科學理論的地位降到了隱喻的地位”。
維森鮑姆對計算機隱喻的問題誤解的個人經驗主要與他在 ELIZA 的經歷有關。** 要讓計算機做某事，必須告訴計算機做某事。這並不一定意味著計算機理解它被告知的內容，只是它的腳本使它能夠執行一個特定的命令。** 人類擅長理解 “用自然語言表達的交流”，但計算機則相反，需要 “普通編程語言的精確性和明確性”。儘管維森鮑姆的程序 ELIZA 可以對自然語言的提示做出反應，但程序本身並不理解對它說的話 — — 相反，它只是在遵循一個腳本 — — 而且在那些不熟悉計算機工作原理的人中，這種理解的假象似乎最為強烈。
ELIZA 有很多特點，但智能並不是其中之一。對維森鮑姆來說，ELIZA 展示了人們熱衷於將智能賦予機器的方式，而這種方式是沒有必要的 — — 這是他在人工智能領域的一些同事中看到的一種強烈的傾向，他將這些人稱為 **“人工智能主義者”（the artificial intelligentsia）**。雖然維森鮑姆承認人工智能科學家已經創造了可以執行許多任務的程序，但他認為這種傾向是傲慢的，認為人工智能的任何缺點只是 “在特定系統的程序限制中找到的”。那些不熟悉計算機的人有理由被 ELIZA 的表現所吸引，但 “人工智能” 的借口是什麼？維森鮑姆在他的一生中見證了計算機能力的巨大飛躍，並且認識到今天對計算機來說不可能的事情，明天對計算機來說也可能。然而，問題變得越來越多，不再是計算機能做什麼的問題，而是它們應該做什麼的問題 — — 是否有 “適當的人類目標不適合於機器”？
“人不是機器…… 計算機和人不是同一個屬的物種”，這是維森鮑姆對他所認為的信仰的尖銳反駁，這些信仰讓 “人工智能反常的宏大幻想得以發展”。對於維森鮑姆來說，智力是一個複雜而困難的概念，不能簡單地加以簡化。因此，試圖最終定義智力的嘗試，如智商測試，注定最多只能捕捉到智力的部分一瞥。很明顯，計算機可以在那些似乎表明智能的壯舉上取得成功，但同時這也過於簡化了。一台計算機可能在國際象棋中獲勝，但這並不意味著它能給嬰兒換尿布。對維森鮑姆來說，這些都是 “無法比較” 的大相徑庭的智能問題。** 計算機擅長於涉及量化的任務，但對維森鮑姆來說，人類有很多東西是根本無法量化的。** 維森鮑姆意識到，“人工智能” 的成員可以把這種批評看作是一種科學挑戰，他們可以試圖通過製造更複雜的機器來應對這種挑戰。然而，對維森鮑姆來說，這不是一個學術決鬥的問題 — — 而是一個道德問題 — — 因為 “問題不在於這樣的事情是否可以做到，而在於將這種迄今為止的人類功能委託給機器是否合適”。
關於人類的狀況，很多東西仍然是未知的 — — 關於做人的其他很多東西只有通過人類經驗的磨練才能學到 — — 這些東西不容易被量化和編程。如果計算機或機器人最終達到這樣的成熟度，表現出與人類真正相似的智能，那麼它們的智能將是相當 “陌生” 的，因為它們的智能是在不同的社會條件下形成的，並涉及到一系列不同的經驗。在智力之外，還有情感和無意識的問題，這些問題不容易被計算和冷酷的邏輯所制約 — — 因此維森鮑姆告誡大家要克制，因為 “有些東西是科學無法完全理解的”。這種情緒既是對他的科學同事的警告，也是對廣大公眾的提醒，要對全能的說法保持警惕。對維森鮑姆來說，這基本上是與這樣一種信念聯繫在一起的：有些任務對計算機來說根本就是不合適的 — — “既然我們現在沒有任何辦法讓計算機變得聰明，那麼我們現在就不應該給計算機提供需要智慧的任務”。
維森鮑姆的警告是在許多不適合計算機的任務已經傳遞給計算機的時候發出的。當維森鮑姆在寫《計算機能力與人類理性》時，計算機已經成為企業和大型組織的一個普遍特徵 — — 即使它還沒有成為每個家庭的固定設備。儘管這些機器最初是以它們會有幫助的承諾來出售的，但現在的情況是，這些機器 “既超越了用戶的理解力，又成為他們不可或缺的東西”。本來應該提供幫助的東西已經變成了人們無助的東西。對於那些不熟悉計算機內部工作原理的人來說，這種痛苦尤其危險，因為他們曾經被引導相信計算機是萬無一失的，他們覺得自己的行動能力和責任都被機器篡奪了。然而，正如維森鮑姆激烈地提醒他的讀者，“技術、政治和社會必然性的神話是一種強大的良心鎮定劑。它的作用是為每個真正相信它的人卸下責任。但事實上，演員是有的！” 計算機隱喻的頌揚者所夢想的世界就這樣被描繪成不可避免的 — — 在機器面前感到無力的人們開始懷疑，表達他們的反對有任何意義。與其被比作卡努特國王，不如順應潮流。
然而，維森鮑姆拒絕接受固化的安寧。科學和 “技術知識分子的修辭” 把自己描繪成邏輯合理的，但對維森鮑姆來說，這是 “工具推理，而不是真正的人類理性”。** 在計算機隱喻的支持下炮製的世界觀中，世界的巨大複雜性被轉化為 “‘程序化’的東西，人們談論‘輸入’和‘輸出’，談論反饋回路、變量、參數、過程等等，直到最後與具體情境的所有聯繫都被抽象化。”這是一個被動、冷漠和無能的秘訣 — — 因為人類生活只是被輸入機器和分析的數據問題。對 “工具理性” 的過度依賴，以及最符合這種推理的技術，已經成為一種 “被黑魔法包圍的迷信。而且只有魔術師才有入門的權利”。作為一個成功的計算機科學家，維森鮑姆本身就是一個可以加入這些 “魔術師” 行列的人物，但他卻沒有被工具理性所迷惑。誠然，維森鮑姆知道他的反對意見會被技術專家們視為 “反技術、反科學、最後反智”，但維森鮑姆強調，“我在為理性而爭論。但我主張理性不能與直覺和感覺分開。我主張合理使用科學和技術，而不是將其神秘化，更不是將其拋棄。** 我敦促將倫理思想引入科學規劃。我反對的是工具理性的帝國主義，而不是理性”。
維森鮑姆對倫理重新評估的呼籲聽起來並不像卡桑德拉（Cassandra）的呼喊，他也沒有忘記，這種呼喊通常是無人理睬的。科學和技術絕不代表人類文明的新力量，但其影響的規模已經大大增加 — — 如此誘惑許多人的力量已經超出了可以安全控制和管理的範圍，而且它正在逐步侵蝕選擇不同道路的能力。許多人至少享受著計算機驅動的技術進步帶來的表面利益，並對放棄這些設備猶豫不決，這是一個嚴重的問題，但維森鮑姆認為，“倫理學，從根本上說，涉及到的只是放棄”。如果技術和科學力量把人類變成了娛樂性的機器，那麼它有什麼用？在一個已經被越來越多的計算機所淹沒的世界裡，有什麼理由真正相信由於缺乏計算機能力，嚴重的社會和政治問題仍然存在？如果維森鮑姆呼籲在某些情況下放棄計算機，那是因為在所有情況下對計算機的擁抱都導致了對人類的放棄。正如維森鮑姆在文中所重申的，“有些人類的功能是不應該被計算機取代的。這與計算機可以或不可以做什麼沒有關係。尊重、理解和愛並不是技術問題”。
敏銳而強烈的責任感促使維森鮑姆對計算機和被這些機器迷住的人發表了挑釁性的文章。** 約瑟夫・維森鮑姆（Joseph Weizenbaum）** 是一位計算機科學家，也是一位向他人傳授計算機科學的科學家，他希望《計算機能力與人類理性》中的信息能夠引起他的同行和同事的共鳴。在維森鮑姆看來，“科學家和技術專家由於他們的能力，肩負著特別沉重的責任，這個責任不能被塞在諸如技術必然性等口號的外表下”。因此，維森鮑姆認為至關重要的是，科學家和技術人員要思考他們行為的後果，重新發現他們 “自己內心的聲音”，最重要的是要 “學會說‘不’”！
責任的需要#
萦繞在維森鮑姆的社會批評中的是他小時候逃離納粹的記憶。在他的作品中，與法西斯主義有關的人物不是作為可怕的妖怪或無法解釋的邪惡巨石出現，而是作為失去對人類其他部分責任的真實人物的例子。阿道夫・希特勒和納粹黨的領導層並沒有被維森鮑姆詳細研究，相反，他的重點是 “好德國人” 的形象 — — 那些對發生在他們周圍的恐怖事件表示無知的人。納粹政權的精心組織使 “善良的德國人” 處於無知狀態的借口並不能說服維森鮑姆，他反而提出 “善良的德國人不知道的真正原因是，他從來不覺得自己有責任去詢問他的猶太鄰居發生了什麼，他的公寓突然變得空了”。畢竟，當維森鮑姆一家逃離柏林時，他們的住所突然變得空了，而當居民因更令人痛苦的原因消失時，所有空的公寓又會如何？當維森鮑姆在 20 世紀 50 年代第一次回到德國時，他發現自己看著周圍那些經歷過納粹時代的德國人，“想知道，有時更多，有時更少，你做了什麼？你是閉口不言嗎？還是反抗了？還是熱心參與？”
除了 “善良的德國人”，維森鮑姆的職業聯繫使他特別反思那些曾為納粹政府工作的科學家的生活。在維森鮑姆的估計中，許多德國科學家在納粹政權期間，自己也戴上了 “好德國人” 的光環，表現出一種 “我們是科學家；政治與我們無關；元首決定”。這是許多德國科學家在戰後能夠方便地躲在後面的立場，因為像沃納・馮・布勞恩這樣的人物在冷戰中擔任重要角色，為他們過去的關係提供了意識形態上的保障。席捲整個大陸並結束了數百萬生命的納粹主義已經成為一種似乎無人負責的東西 — — 一個被作為警告而舉起的黑暗篇章，但從未被閱讀。維森鮑姆在戰後德國觀察到的悖論是，突然間似乎沒有人對所發生的事情負責 — — 公民聲稱無知，而科學家則表現得好像他們的發明將被用於何種用途與他們無關。
關於納粹的凶殘統治，“永遠不會再發生” 這句話經常被引用，但在維森鮑姆的作品中，這個 “永遠不會再發生” 具有另一種性質，仿佛在說：“我們科學家再也不能推卸責任了”。正如維森鮑姆自己所說的那樣。**“承擔責任是道德問題。最重要的是，它要求認識和接受自己的局限性以及自己工具的局限性。不幸的是，做完全相反的事情的誘惑非常大。”** 從對發動越南戰爭至關重要的計算機，到開發更具破壞性的原子武器的進展，對維森鮑姆來說，科學家和技術專家的工作在支撐和允許世界上的暴力方面至關重要。這些終結生命手段的建立依賴於科學的默許，對於這一點，維森鮑姆告誡他的同行們要記住：“沒有我們，它不能繼續下去！沒有我們，軍備競賽，特別是原子競賽就不能繼續。”
誠然，科學界很難將自己從軍事中剝離出來 — — 因為許多科學家的研究在很大程度上依賴於國防部各部門的慷慨資助。維森鮑姆意識到這對他和他的同事的工作的影響，他是麻省理工學院的教授，他非常清楚，“在麻省理工學院，我們為越南戰爭發明了武器和武器系統…… 麻省理工學院與五角大樓密切相關”。科學界的這一挑戰遠遠超出了維森鮑姆任教的學校，他直言不諱地表示，科學家必須了解他們的項目被用於何種目的。“今天，我們幾乎可以肯定地知道，每一項科學和技術成果都將在可能的情況下被用於軍事系統”。即使是看起來無害的程序，其本身也可能最終為暴力事業服務 — — 對維森鮑姆來說，科學家必須認識到這一點並面對這種影響。計算機和科學可以為人道主義目的服務，但這並不排除對反人類影響的擔憂。
維森鮑姆承諾決不允許自己變得像德國科學家那樣，好像他們對自己工作的影響不負責任 — — 即使維森鮑姆觀察到他的許多同事不願意聽從他對嚴格的責任的呼籲。因此，維森鮑姆成為一個對科學家義務直言不諱的批評者，一個軍事化的反對者，並拒絕在不公正的時候安靜地坐在辦公室裡 — — 在整個過程中，他意識到自己已經成為麻省理工學院的 “一種無花果葉”（a kind of fig leaf），但他仍然致力於成為一個堅守道德原則的標誌性人物。維森鮑姆願意呼喚 “強迫性程序員”、“技術知識分子” 和 “人工智能”，他願意挑戰他的科學家同伴。雖然其他對技術有著強烈關注的社會批評家，如劉易斯・芒福德（Lewis Mumford）和漢斯・喬納斯（Hans Jonas），都寫過關於科學家需要承擔責任的文章 — — 但這種批評在由維森鮑姆這樣的科學界人士發表時，卻被賦予了特別的活力。當維森鮑姆勸說科學家承擔責任時，他把自己作為一個例子來說明這可能是什麼樣子。
正是這種承諾導致維森鮑姆參與到圍繞科學和技術的多個領域的辯論中，不局限於對計算機和武器系統的討論，還挑戰 “人工智能”。維森鮑姆對 “人工智能界高喊人類是一台機器” 的傾向作出了強烈反應。他們的中心論點是，整個人可以僅從科學的角度來理解。對維森鮑姆來說，這種思想不僅顯示了一種危險的傲慢傾向，而且是 “對生命的深刻蔑視”。馬文・明斯基（Marvin Minsky）也是麻省理工學院的教授，他的一句話尤其讓維森鮑姆感到憤怒，“大腦只是一台肉機”（the brain is merely a meat machine），這是維森鮑姆在其著作中反復提到的一句話。“肉機” 似乎是對人工智能界觀點的簡單概括，也是強調技術隱喻的原則的一部分。認為像人類思維這樣複雜的東西可以被簡化為容易量化的信息量，這讓維森鮑姆覺得很荒謬，儘管他不幸地意識到這種觀點在 “人工智能社區、人工智能界以及許多科學家、工程師和普通人的重要部門” 中很普遍。智能，無論是人類還是人工智能，都很難定義，因此更難量化 — — 但關於 “人工智能” 的聲明往往給人一種印象，即他們對智能的含義已經有了結論性的共識。通過對 ELIZA 的研究，維森鮑姆親自觀察了對計算機智能可能出現的各種類型的誤解，並目睹了人工智能領域的傑出科學家（如明斯基）提出的觀點，他認識到技術上的樂觀主義，如果有點厭世的話，“人工智能的精神彌漫在計算機實踐領域的許多思潮中”。
維森鮑姆並不把自己看作是計算機和技術的批評者，而是社會的批評者；然而，他的社會批評主要集中在計算機和技術對社會的影響上。因此，維森鮑姆與其他思想家一起，“多年來對科學和技術不受約束的發展所造成的狀況表示嚴重關切”。儘管在年輕時，維森鮑姆曾享受過早期計算機帶來的快感，並在其發展過程中發揮了重要作用，但他與 “技術知識分子” 一起工作的經歷以及對技術對社會影響的觀察，抑制了他最初的熱情。在 1979 年於馬薩諸塞州劍橋市舉行的一次會議上，維森鮑姆沉痛地指出：“我認為我們的文化有一個薄弱的價值體系，很少使用集體福利，因此在技術面前是災難性的脆弱”。在這樣的背景下，高估科學和技術的體系很容易佔據上風，特別是當它們同時為許多人經歷的無力感提供了令人安心的解釋。技術的潛力和它的實現之間的並列是一個持續矛盾的問題，“一方面，計算機在原則上使生活在一個對每個人來說都很豐富的世界成為可能，另一方面，我們正在用它來創造一個痛苦和混亂的世界”。在他的作品中，維森鮑姆多次提到與技術的交易是一種 “浮士德的契約” — — 然而這仍然留下一個問題，即誰應該對與梅菲斯特簽署契約負責？
在劍橋的會議上，維森鮑姆特別關注諸如 “我們”（we）和 “我們”（us）這樣的術語在圍繞技術和科學的討論中被使用的方式。一台機器可以從實驗室裡幾個人的決定中產生，並造成巨大的全球影響 — — 但代價仍然經常被框定為 “它將為我們服務”。這一切包含著 “我們”（us），代表著一種奇怪的負罪感。維森鮑姆一直在批評那些以無知為借口的 “善良的德國人”，但他對這些人的批評是由於他覺得他們聲稱的無知是一種假象，一種故意的自我欺騙。然而，在企業和大學的技術變革中，人們對正在發生的變化的無知並不是虛假的。維森鮑姆還是個孩子的時候，就親眼目睹了早期納粹政權固有的野蠻，但技術的危險風險並不是一個公開辯論或投票的問題。當阿爾伯特・赫希曼（Albert Hirschman）還在劍橋的會議上回應維森鮑姆（Weizenbaum）對 “我們”（us）身份的質疑時，他說：“每個國家都擁有它應得的技術”。維森鮑姆反駁道：“我不認為國家比人民更值得擁有東西，尤其是別人強加給他們的東西。”
如果維森鮑姆建議在識別 “我們”（we）和 “我們”（us）時要謹慎，那麼他認為是 “他者” 的人就更清楚了 — — 因為這些人是 “技術知識分子” 的成員。作為機器背後的科學家，揮舞著技術的隱喻，這些人的決定最終被 “強加” 給更廣泛的公眾。維森鮑姆所規定的必要條件是讓這些 “其他人” 接受責任 — — “科學家和技術專家不能再通過呼籲社會的無限力量來改變自己以適應新的現實並治愈他給社會造成的創傷來逃避對他所做的事情的責任。已經達到了某些極限。新技術可能要求的變革可能無法實現，而無法實現這些變革可能意味著所有生命的毀滅。沒有人有權利把這樣的選擇強加給人類。” 科學和技術自稱是萬靈藥，它改變了世界，使其他補救辦法不再有效。因此，維森鮑姆試圖喚醒他的同行們的倫理想像力。
維森鮑姆試圖鼓勵他的同事們從利用技術和科學的角度來思考，以確保 “每個人都能獲得有尊嚴地生活所需的所有物質財富”，對於那些將這種目標視為不切實際的人，他輕蔑地回答說：“我在這裡提到的不可能的目標是可能的，就像我們有可能毀滅人類一樣”。
當 ** 約瑟夫・維森鮑姆（Joseph Weizenbaum）** 在 2008 年以 85 歲高齡去世時，他已經在計算機科學史上占有一席之地，他既是一位重要的科學家，又是計算機在社會中的作用的主要批評者。在他的一生中，維森鮑姆站在了計算機發生重大轉變的前線，從需要整個房間的機械龐然大物，到個人計算機，再到早期的智能手機的化身。當他看到計算機變得越來越小，越來越強大，越來越多地與日常生活中的活動聯繫在一起時，他的批評依然堅定。對他來說，計算機的軍事起源不能簡單地作為一個不方便的歷史細節而被遺忘，儘管他不否認計算機令人印象深刻的潛力，但他仍然意識到這種潛力經常出錯。
維森鮑姆不是一個多產的作家，他的文章和他的書《計算機能力與人類理性》繼續對撰寫計算機對社會影響的學者產生重要影響。在 **《封閉的世界：冷戰時期美國的計算機和話語政治》（The Closed World: Computers and the Politics of Discourse in Cold War America）** 一書中，** 保羅・N・愛德華茲（Paul N. Edwards）** 認為 “工具和隱喻通過話語聯繫在一起”，他借鑒了維森鮑姆對技術隱喻的考慮，討論了 “工具及其使用如何形成人人話語的組成部分，並通過話語，不僅直接塑造物質現實，而且塑造指導這種塑造的心理模型、概念和理論”。維森鮑姆對 “強迫性程序員” 相當嚴厲的描述也被證明不僅僅是一種可以被簡單駁回的刻板印象。雪莉・特克（Sherry Turkle）認為維森鮑姆幫助揭露了 “黑客” 的形象，因為 “許多人第一次意識到黑客的存在是在 1976 年約瑟夫・維森鮑姆（Joseph Weizenbaum）的《計算機能力與人類理性》的出版”。維森鮑姆對黑客 / 強迫性程序員的描述多年來一直引起人們的共鳴，即使這些人已經從大學計算機實驗室的黑暗角落遷移到大公司的會議室中。Wendy Hui Kyong Chun寫道：“維森鮑姆認為，編程創造了一種新的精神障礙：強迫性編程”，儘管她反駁了維森鮑姆的指責，即強迫性程序員在他們的追求中沒有樂趣，但她肯定有一些人，她特別指出理查德・斯托曼（Richard Stallman），“他 [符合] 維森鮑姆對黑客的描述”。顯然，維森鮑姆與強迫性程序員的接觸使他能夠識別出一些真實的東西，即使他圍繞那些擁抱技術隱喻的人所做的工作使他能夠預測它對話語的影響。
維森鮑姆思想的某些方面多年來一直受到質疑，他的一些預測被證明是完全不正確的，比如他在 1978 年提出的評論：“家用計算機會像今天的電視機一樣普及嗎？” 維森鮑姆對此提出了反駁：“答案幾乎肯定是否定的”。在一個智能手機、平板電腦、筆記本電腦和電視機的世界裡，這個 “否定” 被證明是錯誤的，這些計算機本身都與互聯網相連。然而，即使維森鮑姆關於計算機的一些評論已經過時，他的論點也沒有失去任何道德上的重量。在《計算機能力與人類理性》一書中，維森鮑姆提出了一份批評者名單，他們反對 “科學技術不受約束的發展”，而維森鮑姆自己也被後來的作家列入了這一群體。** 大衛・戈倫比亞（David Golumbia）在《計算的文化邏輯》（The Cultural Logic of Computation）** 中批判了 “計算主義” 的興起，他將其定義為 “對人類和社會經驗的大量甚至全部可以通過計算過程來解釋這一觀點的承諾”，並指出 “維森鮑姆公開反對計算主義的觀點，並繼續寫了一本關於其問題的引人注目的書”。當戈倫比亞把他自己列出的批評 “計算主義” 的 “知名學者” — — 就像那些挑戰 “科學和技術的自由發展” 的人 — — 放在一起時，戈倫比亞把維森鮑姆和許多同樣出現在維森鮑姆自己的名單上的人放在一起。
因此，本書提供了對 ** 約瑟夫・維森鮑姆（Joseph Weizenbaum）的生活和思想的一個重要概述。在這場範圍廣泛的討論中，維森鮑姆向古納・溫特（Gunna Wendt）坦率地講述了他一生中所面臨的問題 — — 從 ELIZA 到 AI 到技術隱喻 — — 並看到他揭示了他的個人經歷如何影響了他一生中所採取的立場。最重要的是，這本書展示了維森鮑姆作為社會批評家對技術在當代社會的作用的持續活力。而其他著名的批評家，如芒福德，在他們能夠寫出任何有關互聯網的文章之前就已經去世了 — — 本書所介紹的訪談非常清楚地表明，維森鮑姆不願意被一些人試圖為互聯網披上的烏托邦外衣所迷惑。面對技術的進步，維森鮑姆絲毫沒有失去他的批判精神。正如維森鮑姆以辛辣的幽默寫道：“互聯網是一個大垃圾場 — — 誠然裡面有一些珍珠，但你必須先找到它們。”本書認為維森鮑姆是自我意識和自嘲的，但仍然堅定地致力於堅守道德原則 — — 它不是對約瑟夫・維森鮑姆（Joseph Weizenbaum）** 作為一個簡單的計算機科學家的概述，而是對約瑟夫・維森鮑姆（Joseph Weizenbaum）作為一個複雜的人，對其他人類的複雜性的讚美。
那些正在尋找對技術的簡單慶祝的人不會在 ** 約瑟夫・維森鮑姆（Joseph Weizenbaum）** 的作品中找到這種慶祝。作為一個社會批評家，他發現，並在書中繼續證明，他致力於大聲說出令人不舒服的意見。“計算機就像電視一樣，嵌入了我們這個瘋狂的社會。一切都嵌入了這個社會，而這個社會顯然是瘋狂的。” 然而，這種觀察並沒有陷入虛無主義的厭世主義或宿命論的絕望之中，而是相信人們可以克服他們的無力感，重新為自己的生活負責。對維森鮑姆來說，人們必須成為 “理性之島” — — 即使這樣做會使人孤立和孤獨，因為這樣的島嶼仍有可能吸引類似的人，願意承認 “也許我們現在對現代科學技術上癮了，需要實行戒斷療法”。重要的是，這不是呼籲人們從世界上隱退，而是呼籲人們對當今的道德窘境進行更深入的投資。為了讓人們認識到他們周圍世界的瘋狂，當這種認識出現時，“我們應該說出來，我們應該與他人分享我們所認識到的東西”。
而這正是 ** 約瑟夫・維森鮑姆（Joseph Weizenbaum）** 所努力實現的目標。這本書是一張發現理性之島（Island of Reason）的地圖，而這個理性之島就是約瑟夫・維森鮑姆（Joseph Weizenbaum）。