【來稿】當機器人殺人時,誰應該負責呢? | 哲學新媒體
來稿

當機器人殺人時,誰應該負責呢?

《設計的哲學》文摘
當機器人殺人時,誰應該負責呢?機器人的設計者、刀的設計者,還是編寫機器人程式的人?難道不能把道德責任歸究於結構設計、程式編寫或生產中的錯誤嗎?那麼將道德責任歸於製造機器人的工業部門呢?或者也許究責整個產業界,甚至是產業所屬的整個體系?

您在這裡

難度:
1

作者:維倫・傅拉瑟 (Vilém Flusser)

工業設計中的倫理?

設計的哲學
不久前,這是個多餘的問題。物的道德?設計師的首要考量,是生產實用的物品。例如,刀具的設計必須鋒利地切割東西——包括敵人的喉頸。除此之外,如果一個設計構造要實用,它必須相當精確——在與科學知識一致的意義下。它應該要看起來美觀大方——在某個意義下,它能夠為使用者提供體驗。結構設計師的理想是實用主義式的,也就是有功能的。道德和政治方面的考慮,對他幾乎不怎麼重要。道德規範是由大眾決定的——不是由超越個人的威權機構,就是透過共識,又或兩者兼有。設計師和產品的使用者在懲罰的威脅之下——無論在今生或是來世,都服從於這些規範。

然而,物的道德問題,設計師的道德和政治責任問題,在當前形勢下有了新的意義﹙甚至有急迫性﹚。對此至少有三個不同的原因。

首先:不再有制定規範的大眾。儘管威權機構仍然存在﹙宗教、政治和道德性質的﹚,但是他們的規則再也無法被信任:他們的工業生產力令人懷疑。因此,人們越來越不相信權威,尤其是因為通訊革命摧毀了我們至今已知的公共領域。他們的能力受質疑,因為工業生產變得極其複雜,任何類型的規範都容易被誤以為太單純了。每個威權主義因而變得很無能,它們的規範的普遍化也往往會阻礙工業進步或導致混亂,而不是提出任何準則。科學是唯一大抵上完好的威權。然而,它總是聲稱進行價值中立的研究,因此儘管提供了技術,卻沒有道德規範可言。

其次:包括設計在內的工業生產,已經發展成一個吸收來自不同領域資訊的複雜網路。製造商可用的資訊量遠遠超過了個人記憶的容量。即使使用人工儲存方法,仍然會遇到如何篩選資訊加以處理的問題。因此,有必要在由人力和人造物組成的團隊裡合作無間;結果因而不能歸於一位作者。由此可見設計過程是由高度分工組織而成的。由於這個原因,不再有個可以為產品負責的人。即使有制訂規範的威權,也沒有人會覺得自己受限於這些規範。這種遵循生產過程邏輯在道德上的不負責任,如果未能就某種設計的道德規範達成一致,也就不可避免地會產生出有道德上應受譴責的產品。

第三:過去人們默認產品的道德責任在於其使用者。如果有人用刀子刺傷了別人,那個人必須獨自承擔全部責任,責任不在於刀子的設計者。因此,刀具的結構設計是某種無關倫理的、價值中立的活動。然而,今日的情況已不再如此。許多工業生產是由自動化設備執行的,讓機器人為產品的使用負責是荒謬的。

那麼當機器人殺人時,誰應該負責呢?機器人的設計者、刀的設計者,還是編寫機器人程式的人?難道不能把道德責任歸究於結構設計、程式編寫或生產中的錯誤嗎?那麼將道德責任歸於製造機器人的工業部門呢?或者也許究責整個產業界,甚至是產業所屬的整個體系?

換句話說:如果設計師不解決這些問題,就會導致完全不負責任的後果。這當然不是個新問題。一九四五年,當提出誰要為納粹反人類罪行負責的問題時,這點變得非常明顯。在紐倫堡審判期間,發現了一封由德國實業家寫給納粹官員的信。在信中,這位實業家溫文儒雅地為他的煤氣爐設計不良請求原諒:沒有一次殺死數千人,而只殺死了數百人。紐倫堡審判和後來的艾希曼審判都清楚表明:一、不再有任何適用於工業生產的規範;二、沒有單一的罪行發起者;三、責任被淡化至此:我們實際上的情況是完全不必為工業生產導致的行為負責。

不久之前,伊拉克戰爭又更加清楚地說明了這個問題,儘管情況不若納粹那麼荒謬而殘暴。那裡的死亡比例如下:每一個盟軍士兵死亡就有一千名伊拉克人死亡。這個比例是透過卓越的工業設計實現的。符合目的、科學的準確性以及在美學上讓人印象深刻的設計。這裡涉及任何倫理或道德﹙更不用說政治﹚責任嗎?想像一個畫面,一名飛行員在空襲後從直升機上下來,並且立即與電視記者交談。他還戴著頭盔。當他轉向記者時,直升機上的砲口轉向同一個方向。他的頭盔與機槍炮同步,他的眼睛在指揮攻擊。現在誰要為這個後工業直升機和飛行員的複合體負責,又是誰要為這種錯綜複雜的關係導致的行為負責?是否有任何一個可以想像的權威機構能夠判斷這類行為——無論這個權威是法官、牧師、國家或國際議會、工程師還是複雜體系分析專家?

如果我們做不到——超越所有意識形態——至少也要找到方法解決設計當中的倫理問題,把納粹主義、伊拉克戰爭和類似事件都表述為破壞和自我毀滅的開始階段。我們開始質疑自己的這個事實,提供了我們懷抱希望的理由。

※ 本文為商周出版提供之文摘,摘自Flusser, V. (2023).  設計的哲學. pp.47-50。

商業周刊出版社(Business Weekly Publications) 創立於1987年,原為商業周刊雜誌的出版部門,初期以出版商管專業書籍為特色。
訂閱會員推薦
推薦
0 人投票。
訂閱哲學新媒體,支持作者持續創作、打造長長久久的哲普推廣與哲學教育平台。