掃一掃
關(guān)注中圖網(wǎng)
官方微博
>
>
方寸AI聯(lián)結(jié)的社會(huì):人工智能網(wǎng)絡(luò)化時(shí)代的倫理與法律
包郵 方寸AI聯(lián)結(jié)的社會(huì):人工智能網(wǎng)絡(luò)化時(shí)代的倫理與法律
所屬叢書(shū)：
方寸系列叢書(shū)
開(kāi)本：
32開(kāi)
頁(yè)數(shù)：
400
本類榜單：社會(huì)科學(xué)銷量榜
本類五星書(shū)更多>
-
>
妙相梵容
-
>
基立爾蒙文:蒙文
-
>
我的石頭記
-
>
心靈元?dú)馍?/p>
-
>
女性生存戰(zhàn)爭(zhēng)
-
>
縣中的孩子 中國(guó)縣域教育生態(tài)
-
>
(精)人類的明天(八品)
中圖價(jià):¥60.0
暫時(shí)缺貨
方寸AI聯(lián)結(jié)的社會(huì):人工智能網(wǎng)絡(luò)化時(shí)代的倫理與法律 版權(quán)信息
- ISBN：9787520161381
- 條形碼：9787520161381 ; 978-7-5201-6138-1
- 裝幀：簡(jiǎn)裝本
- 冊(cè)數(shù)：暫無(wú)
- 重量：暫無(wú)
- 所屬分類：>
方寸AI聯(lián)結(jié)的社會(huì):人工智能網(wǎng)絡(luò)化時(shí)代的倫理與法律 本書(shū)特色
★ AI網(wǎng)絡(luò)化將給人類社會(huì)帶來(lái)無(wú)法預(yù)測(cè)的重大變化，我們是否做好了應(yīng)對(duì)風(fēng)險(xiǎn)和挑戰(zhàn)的準(zhǔn)備？
★ 日本信息學(xué)、法學(xué)、社會(huì)學(xué)、人工智能技術(shù)領(lǐng)域的前沿學(xué)者，關(guān)于人類如何與AI共生進(jìn)行跨界對(duì)話，在社會(huì)治理和法律制度層面提出務(wù)實(shí)的對(duì)策建議。
★ 深度討論智聯(lián)社會(huì)的隱私與倫理、信息安全、AI開(kāi)發(fā)準(zhǔn)則、政治參與、知識(shí)產(chǎn)權(quán)、勞動(dòng)就業(yè)等核心問(wèn)題。
★ 全球視角，橫向比較美國(guó)、歐洲、日本在相關(guān)領(lǐng)域的政策，提供多國(guó)經(jīng)驗(yàn)。
★ 通過(guò)情景設(shè)定實(shí)例和“思想實(shí)驗(yàn)”，將讀者代入未來(lái)的預(yù)設(shè)場(chǎng)景，嘗試回答文學(xué)作品、電影和游戲中的經(jīng)典問(wèn)題：在AI網(wǎng)絡(luò)化時(shí)代，人類如何做才能既利用人工智能為人類服務(wù)，又保護(hù)人類的基本利益？
★ 北京大學(xué)中國(guó)社會(huì)與發(fā)展研究中心主任邱澤奇教授作序，哈佛大學(xué)、清華大學(xué)、中國(guó)人民大學(xué)、廈門大學(xué)等國(guó)內(nèi)外高校的多位學(xué)者聯(lián)合推薦。
方寸AI聯(lián)結(jié)的社會(huì):人工智能網(wǎng)絡(luò)化時(shí)代的倫理與法律 內(nèi)容簡(jiǎn)介
隨著人工智能技術(shù)的不斷發(fā)展，人類與人工智能共生的時(shí)代開(kāi)始了。
優(yōu)選聯(lián)機(jī)協(xié)作的人工智能，將構(gòu)筑一個(gè)深度改變?nèi)祟惿畹摹叭斯ぶ悄芫W(wǎng)絡(luò)”。
在人工智能網(wǎng)絡(luò)化時(shí)代，我們將面臨不可預(yù)測(cè)和控制的風(fēng)險(xiǎn)。我們的社會(huì)是否已為迎接迎接這一切做好準(zhǔn)備？
科幻小說(shuō)與生活的邊界即將模糊，“電車難題”不再是腦海中單純的思想實(shí)驗(yàn)。
人工智能是否能像人類一樣，對(duì)自己的行為負(fù)責(zé)？
大數(shù)據(jù)下無(wú)處不在的“人物側(cè)寫”，還有“責(zé)任的空白”“數(shù)字污名”“就業(yè)難民”等全新社會(huì)問(wèn)題，是否會(huì)催生新的歧視與壓迫？
……
面對(duì)可能出現(xiàn)的倫理難題和社會(huì)風(fēng)險(xiǎn)，我們當(dāng)下又能做些什么？
圍繞這些問(wèn)題，日本信息學(xué)界、法學(xué)界、社會(huì)學(xué)界、人工智能技術(shù)領(lǐng)域的多位前沿學(xué)者從靠前化、專業(yè)化的視角出發(fā)，進(jìn)行了深入探討。
學(xué)者們通過(guò)“情景設(shè)定”的方式，對(duì)人工智能網(wǎng)絡(luò)化時(shí)代的風(fēng)險(xiǎn)和危機(jī)進(jìn)行了預(yù)演，并在社會(huì)政策和法律應(yīng)對(duì)層面，提出了精彩的建議。
方寸AI聯(lián)結(jié)的社會(huì):人工智能網(wǎng)絡(luò)化時(shí)代的倫理與法律 目錄
**部分總論
“AI網(wǎng)絡(luò)化”及其治理：從法律、政策的視角思考“智聯(lián)社會(huì)”
一背景
二 AI網(wǎng)絡(luò)化
三 AI網(wǎng)絡(luò)化的治理
四結(jié)語(yǔ)
【座談會(huì)】AI網(wǎng)絡(luò)化的影響及風(fēng)險(xiǎn)：情景分析的意義
一引言
二為什么要做“情景分析”
三 AI網(wǎng)絡(luò)化的風(fēng)險(xiǎn)
四如何應(yīng)對(duì)AI網(wǎng)絡(luò)化的風(fēng)險(xiǎn)
五風(fēng)險(xiǎn)傳播：如何制造“場(chǎng)域”
六如何與AI共生：“立人設(shè)”和“公開(kāi)設(shè)計(jì)思想”
七結(jié)語(yǔ)：多角度的社會(huì)狀態(tài)構(gòu)想
第二部分 研究開(kāi)發(fā)
AI研究開(kāi)發(fā)的原則和方針
一引言
二 AI的技術(shù)發(fā)展與網(wǎng)絡(luò)化帶來(lái)的便利、益處及風(fēng)險(xiǎn)
三歐美對(duì)AI研究開(kāi)發(fā)原則、方針的討論
四面向國(guó)際討論的AI開(kāi)發(fā)指南
五結(jié)語(yǔ)
【座談會(huì)】AI、機(jī)器人研究開(kāi)發(fā)的倫理與法律
一引言
二 AI研究開(kāi)發(fā)中的倫理問(wèn)題
三 AI研究開(kāi)發(fā)中的法律問(wèn)題
四控制的重要性：對(duì)“自主型”AI的出現(xiàn)進(jìn)行預(yù)測(cè)
五如何對(duì)AI研究開(kāi)發(fā)進(jìn)行治理
六結(jié)語(yǔ)
第三部分 數(shù)據(jù)、信息、知識(shí)的流通及使用
今后立足于AI及大數(shù)據(jù)的競(jìng)爭(zhēng)政策
一引言
二 AI網(wǎng)絡(luò)的協(xié)作與競(jìng)爭(zhēng)
三數(shù)據(jù)集中：現(xiàn)在正在產(chǎn)生的問(wèn)題
四大數(shù)據(jù)、AI與競(jìng)爭(zhēng)法
五今后的課題
AI網(wǎng)絡(luò)化與知識(shí)產(chǎn)權(quán)
一正在擴(kuò)張的AI內(nèi)容生產(chǎn)
二可預(yù)想的社會(huì)影響
三 AI知識(shí)產(chǎn)權(quán)問(wèn)題的未來(lái)走向
四結(jié)語(yǔ)
第四部分 隱私與安全
對(duì)傳統(tǒng)的隱私理論產(chǎn)生的影響
一引言
二傳統(tǒng)的隱私權(quán)
三傳統(tǒng)的隱私權(quán)與AI
四 AI的發(fā)展與隱私保護(hù)
五結(jié)語(yǔ)
使用AI與個(gè)人信息保護(hù)制度中的課題
一個(gè)人信息保護(hù)制度中的課題
二可預(yù)想的企業(yè)回答
三個(gè)人信息保護(hù)制度
四基于修正案的討論事項(xiàng)
五 AI與涉及個(gè)人信息處理企業(yè)的義務(wù)
六殘留課題：人物側(cè)寫
AI網(wǎng)絡(luò)社會(huì)中安全問(wèn)題的諸多側(cè)面
一 AI網(wǎng)絡(luò)化時(shí)代的安全與法律
二 AI網(wǎng)絡(luò)化對(duì)安全產(chǎn)生的影響
三結(jié)語(yǔ)
第五部分 AI網(wǎng)絡(luò)時(shí)代中的社會(huì)基本準(zhǔn)則
AI網(wǎng)絡(luò)時(shí)代的制造物責(zé)任法
一自動(dòng)駕駛汽車的“衍生型電車難題”：事例1的解說(shuō)
二“責(zé)任的空白”：事例2的解說(shuō)
三結(jié)語(yǔ)
AI網(wǎng)絡(luò)時(shí)代的刑事法律
一引言
二自動(dòng)駕駛汽車與過(guò)失犯罪
三自動(dòng)駕駛汽車與生命權(quán)之間的兩難境況
四結(jié)語(yǔ)
AI網(wǎng)絡(luò)與政治參與、政策制定
一 AI與政治領(lǐng)域的匹配度
二 AI與政治參與
三國(guó)際化與技術(shù)性擔(dān)憂
四共生的條件
第六部分 AI網(wǎng)絡(luò)時(shí)代的人類
AI與“尊重個(gè)人”
一引言
二基于集團(tuán)屬性的歧視
三數(shù)字污名與血
四“尊重個(gè)人”原則將會(huì)被如何侵蝕？
五結(jié)語(yǔ)
人格與責(zé)任：來(lái)自不屬于人者的詰問(wèn)
一近代的法律體系與責(zé)任
二 AI向我們提出的問(wèn)題
三遺留問(wèn)題
變化的雇傭環(huán)境與勞動(dòng)法：如果穿越到2025年
一職場(chǎng)的智能化
二高度化的ICT
三數(shù)字化的沖擊
四非雇傭勞動(dòng)
五面向未來(lái)
展開(kāi)全部
方寸AI聯(lián)結(jié)的社會(huì):人工智能網(wǎng)絡(luò)化時(shí)代的倫理與法律 節(jié)選
AI網(wǎng)絡(luò)時(shí)代的刑事法律
立教大學(xué)研究生院法務(wù)研究科教授
深町晉也 情景設(shè)定 事例1 自動(dòng)駕駛汽車與過(guò)失犯
X1購(gòu)買了由汽車公司Y1所制造、販賣的自動(dòng)駕駛汽車（第3級(jí)），下雨天的時(shí)候普通公路上以自動(dòng)駕駛模式、每小時(shí)40公里的速度行駛。在X1沒(méi)有注視前方的時(shí)候，走在道路左側(cè)人行道上的小孩A，松開(kāi)了父母的手進(jìn)入了機(jī)動(dòng)車道。自動(dòng)駕駛汽車執(zhí)行緊急應(yīng)對(duì)措施，切換成駕駛員手動(dòng)模式，但是由于X1沒(méi)有注視前方，導(dǎo)致其瞬間的反應(yīng)不夠及時(shí)，來(lái)不及緊急制動(dòng)。這時(shí)X1向右打方向盤，想要避免撞到A，但此時(shí)后方有一輛摩托車超速行駛而來(lái)，自動(dòng)駕駛汽車沒(méi)能避開(kāi)與摩托車的碰撞，*后導(dǎo)致摩托車翻車，駕駛摩托車的B死亡。 事例2 AI的刑事責(zé)任與保護(hù)生存權(quán)之間的兩難境況
X2購(gòu)買了由汽車公司Y2所制造、售賣的自動(dòng)駕駛汽車（第4級(jí)或者第5級(jí)），在普通公路上以40公里的時(shí)速行駛。本案中的自動(dòng)駕駛汽車裝有防沖撞系統(tǒng)，可以通過(guò)緊急制動(dòng)避免沖撞，在判斷已經(jīng)來(lái)不及緊急制動(dòng)的情況下，其設(shè)計(jì)是向左右打方向盤來(lái)避免沖撞。但如果是在即便采取了這樣的緊急措施也無(wú)法避免沖撞的情況下，比如說(shuō)如果緊急制動(dòng)的話會(huì)與后面的車輛沖撞、向左打方向盤的話會(huì)與行人沖撞，向右打方向盤的話會(huì)與后方駛來(lái)的摩托車沖撞的情況下，則會(huì)采取使受害人減少到*低的措施。X2在單行道上行駛，前方一輛迎面駛來(lái)的汽車沖向X2，因此本案中的自動(dòng)駕駛汽車就只能向左或者向右打方向盤，但是左側(cè)人行道上有一位行人C，右側(cè)的人行道上有一小群人正站著說(shuō)話，因此本案中的自動(dòng)駕駛汽車選擇向左打方向盤，雖然避免了與前方車輛的沖撞，但是卻碾過(guò)了C導(dǎo)致其死亡。 一引言
在AI網(wǎng)絡(luò)時(shí)代，短期問(wèn)題、中期問(wèn)題和長(zhǎng)期問(wèn)題的主題可能會(huì)是不同的。因此需要在刑事法中思考的問(wèn)題也與多個(gè)話題相關(guān)。比如說(shuō)，某些人出于惡意，在AI中裝入令其失控暴走的程序漏洞（bug），或者對(duì)其進(jìn)行黑客攻擊，這樣的事例會(huì)給AI網(wǎng)絡(luò)帶來(lái)嚴(yán)重威脅。對(duì)世界各國(guó)來(lái)講這都是一個(gè)重要問(wèn)題。比如說(shuō)，德國(guó)在2014年網(wǎng)絡(luò)犯罪相關(guān)報(bào)告書(shū)中，指出了IoT存在的問(wèn)題，稱不僅僅是智能手機(jī)，智能家電等設(shè)備也有被惡意操控的危險(xiǎn)性，為我們敲響了警鐘。但是，本文將不涉及這些出于主觀意圖的黑客攻擊等問(wèn)題。本文所探討的對(duì)象是，AI網(wǎng)絡(luò)雖然以社會(huì)利益*大化為目的，但卻不是由于有意的攻擊，而是由于AI采取了有問(wèn)題的運(yùn)作方式而導(dǎo)致出現(xiàn)了權(quán)利侵害的情況。在這里舉的案例，就是開(kāi)頭的情景設(shè)定里提到的，由自動(dòng)駕駛汽車導(dǎo)致的傷亡事故。本文以自動(dòng)駕駛汽車為主題，對(duì)刑事法中可能產(chǎn)生的問(wèn)題展開(kāi)討論。 二自動(dòng)駕駛汽車與過(guò)失犯罪
1．什么是自動(dòng)駕駛汽車
自動(dòng)駕駛汽車，或者自動(dòng)運(yùn)行汽車是指，搭載了即便不通過(guò)駕駛?cè)藛T的操作也能夠安全地移動(dòng)到指定目的地（自動(dòng)駕駛）的系統(tǒng)的汽車。這種自動(dòng)駕駛是通過(guò)AI軟件實(shí)現(xiàn)的，因此自動(dòng)駕駛車也可以認(rèn)為是安裝了這樣的AI軟件的汽車。之所以引入自動(dòng)駕駛汽車，是因?yàn)榻煌ㄊ鹿剩ㄋ纻鹿剩┲谐^(guò)九成，都與駕駛員的人為失誤相關(guān)，因此為了降低由人為失誤引發(fā)事故的可能性，增大社會(huì)獲得的便利與益處，人們認(rèn)為引入自動(dòng)駕駛汽車基本上是符合社會(huì)預(yù)期的。特別是在今后日本老齡化社會(huì)問(wèn)題將進(jìn)一步加劇的情況下，與中青年人相比，高齡者的認(rèn)知、判斷能力將會(huì)降低，因此這種自動(dòng)駕駛汽車的登場(chǎng)，將令高齡者可以享受到既安全又舒適的移動(dòng)，從這個(gè)角度來(lái)講自動(dòng)駕駛汽車的意義很大。
根據(jù)2016年由SAE（Society of Automotive Engineers，美國(guó)汽車工程師學(xué)會(huì)）提出的標(biāo)準(zhǔn)，自動(dòng)駕駛汽車根據(jù)其可自動(dòng)化的程度，分為從0到5的6個(gè)等級(jí)。導(dǎo)入了能夠?qū)π旭偔h(huán)境進(jìn)行自動(dòng)監(jiān)視的系統(tǒng)的自動(dòng)駕駛汽車都超過(guò)了第3級(jí)（有條件的自動(dòng)駕駛），而第3級(jí)中，由于某種情況（比如說(shuō)惡劣天氣）導(dǎo)致自動(dòng)駕駛系統(tǒng)對(duì)環(huán)境監(jiān)測(cè)能力受限時(shí)，就要靠駕駛員人為判斷，駕駛員必須恰當(dāng)處理（稱為“人工接管”［override］）。到了第4級(jí)（高度自動(dòng)駕駛）或者第5級(jí)（完全自動(dòng)駕駛），則完全不考慮這種人類駕駛員人工接管的必要性，徹底依靠自動(dòng)駕駛系統(tǒng)進(jìn)行應(yīng)對(duì)。像這樣，第3級(jí)的自動(dòng)駕駛汽車與第4級(jí)以上的自動(dòng)駕駛汽車，在發(fā)生重大緊急事件之時(shí)，是否需要人類駕駛員做出妥當(dāng)處理這一點(diǎn)上有所不同，特別是從刑事責(zé)任的角度來(lái)看，具有很大差異。
2．第3級(jí)自動(dòng)駕駛汽車與死傷事故
接下來(lái)我們來(lái)討論一下，在開(kāi)頭的情景設(shè)定中，到底應(yīng)該由誰(shuí)來(lái)對(duì)受害人的死亡承擔(dān)刑事責(zé)任。事例1與事例2*大的不同就是，前者中基本應(yīng)由人類駕駛員來(lái)承擔(dān)過(guò)失責(zé)任，而后者中的駕駛員則基本不需要對(duì)自己的過(guò)失負(fù)責(zé)。
在事例1中，自動(dòng)駕駛系統(tǒng)要求駕駛員X1自主控制汽車。因此，可能會(huì)有人認(rèn)為，只要存在自己對(duì)汽車進(jìn)行操縱導(dǎo)致了B的死亡這一事實(shí)，X1的過(guò)失駕駛致死罪（《汽車駕駛死傷處罰法》第5條）就理應(yīng)成立。但其實(shí)，這里值得討論的問(wèn)題是，到底應(yīng)該判定X1在什么問(wèn)題點(diǎn)上產(chǎn)生了過(guò)失呢？在刑法中，如果要認(rèn)定過(guò)失罪成立，就必須要認(rèn)定有違反注意義務(wù)的情況，那么X1具體在哪些點(diǎn)上違反了注意義務(wù)呢？
汽車駕駛員在駕駛汽車時(shí)必須承擔(dān)的義務(wù)中，*基本的一條就是注視前方。也就是說(shuō)，道路的狀況時(shí)刻都在發(fā)生變化，駕駛員要及時(shí)并且恰當(dāng)?shù)貞?yīng)對(duì)這些變化，因此必須要時(shí)刻注視前方以取得與道路狀況相關(guān)的信息。即便是第3級(jí)的自動(dòng)駕駛汽車通過(guò)自動(dòng)駕駛系統(tǒng)行進(jìn)的時(shí)候，我們?nèi)哉J(rèn)為駕駛員注視前方是其不可免除的基本義務(wù)。也就是說(shuō)，自動(dòng)駕駛系統(tǒng)在對(duì)汽車進(jìn)行控制時(shí)有可能隨時(shí)切換成駕駛員的人工接管模式，而作為駕駛員必須要為人工接管模式做好準(zhǔn)備，時(shí)刻注視前方獲取道路狀況信息。所以說(shuō)，X1即便是在以自動(dòng)駕駛模式行駛的過(guò)程中，也不能免除掉注視前方義務(wù)，必須要時(shí)刻注視前方。
但還是有人可能會(huì)對(duì)這種思維模式產(chǎn)生質(zhì)疑。舉個(gè)極端的例子，我們是否能夠要求駕駛員在自動(dòng)駕駛模式行駛的時(shí)候，也永遠(yuǎn)像自己駕駛時(shí)一樣集中注意力呢？第3級(jí)的自動(dòng)駕駛汽車，在進(jìn)入人工接管模式之前，所有駕駛?cè)蝿?wù)都是由自動(dòng)駕駛系統(tǒng)進(jìn)行處理的，而駕駛員也以這些系統(tǒng)為前提，也就是說(shuō)駕駛員認(rèn)為系統(tǒng)進(jìn)行的這些處理是恰當(dāng)?shù)模侵档眯湃蔚模⒁源藶榍疤岢俗詣?dòng)駕駛汽車。駕駛員對(duì)自動(dòng)駕駛系統(tǒng)的這種信賴，恐怕是法律沒(méi)有考慮到的。
在刑法中有一個(gè)原則，即行為人如果是在信賴他人行動(dòng)的情況下，即便是由于該行為人采取了不恰當(dāng)?shù)男袨槎鴮?dǎo)致侵害了他人的權(quán)益，也不會(huì)對(duì)行為人追究責(zé)任（信賴原則）。適用于信賴原則的，基本上都是基于人類行為的問(wèn)題。在事例1中，如果可以信任汽車公司Y1，認(rèn)為其能夠設(shè)計(jì)、制造出正確恰當(dāng)運(yùn)行的AI，那么即便是AI的運(yùn)行出現(xiàn)了不恰當(dāng)之處導(dǎo)致侵害了他人的權(quán)益，那么也應(yīng)該認(rèn)為行為人不為此承擔(dān)責(zé)任。但是，在事例1中，切換到人工接管模式本身是恰當(dāng)?shù)倪\(yùn)行，所以并不是自動(dòng)駕駛系統(tǒng)進(jìn)行了不恰當(dāng)?shù)倪\(yùn)作因此催生了事故。也就是說(shuō)，第3級(jí)自動(dòng)駕駛汽車的設(shè)計(jì)就是以人工接管模式為前提的，因此只要不是出現(xiàn)了本來(lái)完全不應(yīng)該切換到人工接管模式之時(shí)卻被切換到了人工接管之類的事情，那么就無(wú)法免除X1的責(zé)任。
但即便信賴原則在這里不適用，然而回到前面提到的疑問(wèn)，對(duì)于沒(méi)有親自操縱和駕駛的駕駛員，到底是否能夠期待他能像自主駕駛的駕駛員那樣專心地注視前方呢？這個(gè)問(wèn)題是依然存在的。即便是自主駕駛的駕駛員，有的時(shí)候也會(huì)注意力渙散，一邊看著其他東西一邊駕駛的情況并不少見(jiàn)。非自主駕駛的時(shí)候就更是如此，當(dāng)然也可以想象駕駛員會(huì)因?yàn)闊o(wú)聊而看手機(jī)。考慮到這種狀況，對(duì)那些非自主駕駛的駕駛員也同樣要求完成注視前方義務(wù)，違反義務(wù)就要對(duì)他們處以交通違章罰款，并（根據(jù)違章扣分的累計(jì)）進(jìn)行暫停、吊銷其駕照等行政制裁，或（在發(fā)生事故的情況下）施以刑罰，這樣是否妥當(dāng)呢？如果同樣要求完成注視前方義務(wù)，那么在第3級(jí)自動(dòng)駕駛汽車的用戶界面中，就應(yīng)該設(shè)計(jì)并安裝一些功能，讓那些非自主駕駛的駕駛員也要注視前方，這種設(shè)計(jì)是非常重要的。除此之外，對(duì)于緊急事態(tài)下被切換到人工接管模式的駕駛員，到底能否及時(shí)進(jìn)行應(yīng)對(duì)，這又是另外一個(gè)問(wèn)題了。切換到人工接管模式所需要的時(shí)間，*短的情況下只有4秒11，即便注視著前方，也很有可能出現(xiàn)無(wú)法靠緊急制動(dòng)避免事故的情況。這種情況下，能否依靠緊急制動(dòng)以外的方法來(lái)避免事故就成了問(wèn)題的關(guān)鍵。事例1中，如果想要避免與A的沖撞，那么只能向右打方向盤，由于B也在超速行駛，由此導(dǎo)致了本案中的沖撞。在這種情況下，駕駛員X1有可能相信B會(huì)遵守*高限速行駛，這就可以適用剛才所提到的信賴原則。那么就能得出結(jié)論，否定掉X1的過(guò)失責(zé)任。
3．第4級(jí)以上的自動(dòng)駕駛汽車與死傷事故：AI的刑事責(zé)任
在事例2中討論的是第4級(jí)以上的自動(dòng)駕駛汽車，在這個(gè)事例中完全不考慮人類會(huì)對(duì)駕駛產(chǎn)生什么影響，可以說(shuō)本案是一個(gè)完全起因于自動(dòng)駕駛系統(tǒng)的事故案例。但是，在日本所批準(zhǔn)的道路交通相關(guān)條約（通常所說(shuō)的《日內(nèi)瓦公約》）中，第8條第1項(xiàng)中就規(guī)定了車輛中必須要有駕駛員，而根據(jù)第4條的定義規(guī)定，所謂駕駛員是指在道路上駕駛車輛的人。因此，第4級(jí)以上自動(dòng)駕駛汽車，人類是無(wú)法參與其中的，而這樣的自動(dòng)駕駛汽車是否滿足條約的要求，就成了一個(gè)關(guān)鍵性問(wèn)題。假如說(shuō)前提條件就是駕駛員一定要是人類，那么不修訂《日內(nèi)瓦公約》的話，第4級(jí)以上自動(dòng)駕駛汽車根本就不會(huì)被允許在道路上行駛。
那我們首先假定，我們要修訂《公約》，并允許第4級(jí)以上自動(dòng)駕駛汽車在道路上行駛。那這里出現(xiàn)的問(wèn)題就是，從理論上來(lái)講，是否可能對(duì)設(shè)計(jì)這種自動(dòng)駕駛汽車的設(shè)計(jì)人員，以及構(gòu)成自動(dòng)駕駛汽車的系統(tǒng)（程序）追究刑事責(zé)任。前者是對(duì)自然人追究責(zé)任，而后者是對(duì)系統(tǒng)或者說(shuō)AI這樣的非自然人追究刑事責(zé)任，兩者的性質(zhì)截然不同。在這里，首先對(duì)*近大家都很關(guān)心、樂(lè)于討論的后者展開(kāi)探討。
從傳統(tǒng)刑法學(xué)的立場(chǎng)出發(fā)，我們認(rèn)為所謂刑罰，只能施加于像自然人那樣，具有一定人格的存在。從這個(gè)觀點(diǎn)出發(fā)，那么能否認(rèn)為自動(dòng)駕駛汽車的系統(tǒng)，即AI是擁有人格的呢？這就是問(wèn)題的關(guān)鍵點(diǎn)。
比如說(shuō)在德國(guó)就有學(xué)者從正面對(duì)是否可以認(rèn)定AI擁有電子人格一事展開(kāi)了討論。另外，在日本也有從傳統(tǒng)刑法學(xué)的立場(chǎng)出發(fā)，針對(duì)是否可以肯定AI具有行為性和責(zé)任能力一事展開(kāi)的討論。像這種問(wèn)題設(shè)定，即是否可以肯定AI具有人格這一問(wèn)題，還有可能進(jìn)一步分化為兩種路徑。**種路徑是從與自然人類似的觀點(diǎn)出發(fā)，賦予其人格基礎(chǔ)；第二種路徑則不討論與自然人的類似之處，只討論是否認(rèn)可AI的人格并對(duì)其適用刑法。
**種路徑中重要的問(wèn)題是，AI擁有怎樣的性質(zhì)會(huì)導(dǎo)致其與人類相似。比如說(shuō)，如果AI具有跟人類同樣的認(rèn)知能力、判斷能力（責(zé)任能力），就可以認(rèn)定與人類相似，進(jìn)而有可能被追究刑事責(zé)任。從這樣的路徑出發(fā)，預(yù)想過(guò)一些類人機(jī)器人AI（典型的就是“鐵臂阿童木”和“終結(jié)者”），并認(rèn)定它們是擁有人格的。但是另一方面，越是強(qiáng)調(diào)其與人類相似，那么就越有可能要超越追究刑事責(zé)任的前提——賦予其“人格”的基礎(chǔ)，而是變成要討論其是否
與人類一樣需要保護(hù)，這一點(diǎn)有可能成為問(wèn)題關(guān)鍵。從這種理解出發(fā)，*后對(duì)這個(gè)問(wèn)題的討論甚至可能會(huì)發(fā)展為，如果把與人類相似的AI破壞掉或刪除其程序，是否就與“死刑”同等。在德國(guó)這種否定死刑的國(guó)家，這樣處置的權(quán)利本身都有可能被否定掉。但是，在與法人的人格（法人格）相關(guān)的討論中，則不會(huì)產(chǎn)生這樣的問(wèn)題，其原因就是，與人類一樣需要保護(hù)中所講的“類人特性”，明顯是一種過(guò)度的要求。與人類相似這一路徑，有可能會(huì)導(dǎo)致陷入“人之所以為人的根本到底是什么”（沒(méi)有終結(jié)）的爭(zhēng)論，因此必須要進(jìn)行慎重的應(yīng)對(duì)。
而第二種路徑則不去探究AI與人類的相似性，而是探究是否可能賦予AI人格。但這里的問(wèn)題就是，不管它是否與人類相似，都肯定AI擁有人格，并且使其適用刑法，這件事到底在刑法上具有什么意義。以法人處罰為例，對(duì)法人施加刑法的意義在于，與自然人不同，對(duì)法人進(jìn)行金錢處罰可以發(fā)揮刑罰的抑止效果。那么假如說(shuō)對(duì)AI進(jìn)行金錢處罰，可以得到某些抑止效果嗎？如果說(shuō)AI本身具有某些經(jīng)濟(jì)利益，而且具有以增大這些利益為目的而采取行動(dòng)的特質(zhì)，那么金錢處罰就可以看作一種“打擊”手段。但通常來(lái)講，經(jīng)濟(jì)利益是專屬于那些制造、販賣AI的自然人和企業(yè)（法人）的，對(duì)AI處以罰金是沒(méi)有意義的。將與自然人相同的自由刑（懲役、監(jiān)禁）施加到AI身上也是沒(méi)有意義的，損壞AI或消除程序，這種相當(dāng)于對(duì)AI處以“死刑”的刑罰，也很難被認(rèn)為是有意義的。
所謂刑罰，必須要令被罰對(duì)象感受到一定的負(fù)擔(dān)，而且國(guó)家要將一定的污名（stigma）附加給該對(duì)象，也就是說(shuō)，讓國(guó)家對(duì)AI傳達(dá)法律上的指責(zé)24，說(shuō)“你這家伙做出了某種壞的行為，是應(yīng)該受到大家批判的AI”。我們必須思考這件事到底具有怎樣的意義。便當(dāng)人類幼兒做了什么違法行為的時(shí)候，國(guó)家并不會(huì)以傳達(dá)法律上的指責(zé)的形式附加污名到該幼兒身上，這是因?yàn)椋覀冊(cè)谏鐣?huì)中，只會(huì)對(duì)對(duì)等的成員做出法律上的指責(zé)。也就是說(shuō)，這里需要探討
的問(wèn)題是，我們到底為什么需要將AI看作社會(huì)中對(duì)等的成員、人格的主體。
而且，如果要對(duì)AI施加能給它帶來(lái)不利的處分，比如說(shuō)破壞掉AI，刪除其程序等，即便不采用刑罰的形式也可以做到。對(duì)人類可以施加不以其責(zé)任能力為前提的處分（治安處分），所以從理論上來(lái)講，對(duì)于AI，即便不討論它是否是人格主體，是否具有責(zé)任能力，單純對(duì)其施加這樣的處分也是可能的。從這個(gè)角度思考的話，我們就會(huì)質(zhì)疑，討論“AI是否可能成為適用刑罰的對(duì)象”這種問(wèn)題到底有什么意義。因此，追究AI本身的刑事責(zé)任這一方向，就可以被否定掉了。
4．第4級(jí)以上自動(dòng)駕駛汽車的死傷責(zé)任：設(shè)計(jì)者的責(zé)任
在無(wú)法追究AI本身刑事責(zé)任的情況下，接下來(lái)馬上要處理的問(wèn)題就是，設(shè)計(jì)、制造這些AI的人的責(zé)任。如果說(shuō)AI的判斷有瑕疵，那么設(shè)計(jì)出這些擁有瑕疵的AI的設(shè)計(jì)者和制造者的制造物刑事責(zé)任就成了問(wèn)題的關(guān)鍵所在。另外，明明知道這些瑕疵的存在，卻沒(méi)有從市場(chǎng)上回收該AI（在本案中是該自動(dòng)駕駛汽車）的情況下，還要另外追究其不作為的責(zé)任。
那針對(duì)這種情況，事例2中需要探討的問(wèn)題就是，到底能不能說(shuō)汽車公司Y2，在該自動(dòng)駕駛汽車的設(shè)計(jì)、制造過(guò)程中有一定的瑕疵呢？或者更確切地講，催生本事故的自動(dòng)駕駛系統(tǒng)的判斷，是否有瑕疵？為了探討這個(gè)問(wèn)題，我們要在下一小節(jié)中對(duì)本案中的自動(dòng)駕駛系統(tǒng)的程序設(shè)定展開(kāi)討論，即在無(wú)法避免一定的沖撞事故的情況下，則要將損害減少到*小限度，我們應(yīng)該如何評(píng)價(jià)這種程序設(shè)定呢？ 三自動(dòng)駕駛汽車與生命權(quán)之間的兩難境況
1．生命權(quán)的兩難境況
所謂生命權(quán)的兩難境況，就是指*近很多人討論的“電車難題”，在德國(guó)刑法學(xué)中也被稱為“扳道工案例”。30其中*典型的就是這個(gè)事例。一輛失控的電車在軌道上行駛，如果讓它繼續(xù)在這個(gè)軌道上行駛的話，該線路上將有5個(gè)人來(lái)不及逃離，被電車碾死。看到這種情況的扳道工甲，為了挽救這5個(gè)人的生命，改變了列車運(yùn)行的軌道，導(dǎo)致在第二條線路上的乙被電車碾死。甲認(rèn)為，讓乙一個(gè)人死亡這個(gè)結(jié)果是不得已而為之。
在這個(gè)事例中，可以認(rèn)為由于甲改變軌道的行為，導(dǎo)致了乙的死亡，因此殺人罪是成立的。但是，在一定有某一條線路上的人無(wú)法避免死亡的狀況之下，為了挽救5個(gè)人的生命而犧牲1個(gè)人的行為，是否應(yīng)該按照殺人罪進(jìn)行處罰呢？
像這種生命權(quán)的兩難境況中，需要探討的問(wèn)題就是，緊急避險(xiǎn)是否成立。所謂緊急避險(xiǎn)是指，當(dāng)發(fā)生某種不是由于任何人的過(guò)失而產(chǎn)生的危險(xiǎn)的時(shí)候，在一定條件之下，允許將這種危險(xiǎn)轉(zhuǎn)嫁給他人。特別是在緊急避險(xiǎn)的情況成立之時(shí)，為了保全更為重大的利益，而侵害某種小的利益，很多時(shí)候也會(huì)被認(rèn)為是必要的。
那在“扳道工事例”這樣的情況之下，能否將甲的行為看作緊急避險(xiǎn)進(jìn)而將其行為正當(dāng)化呢？德國(guó)刑法學(xué)對(duì)這個(gè)問(wèn)題展開(kāi)了積極的探討，在德國(guó)《刑法》中通常認(rèn)為，對(duì)于這種與生命權(quán)相關(guān)的兩難境況，要否定任何試圖將其正當(dāng)化的行為。從這個(gè)立場(chǎng)出發(fā)，將甲的行為定義為所謂正當(dāng)化的緊急避險(xiǎn)（阻止違法性的緊急避險(xiǎn)）恐怕是不成立的。
但與之相對(duì)，日本《刑法》第37條所規(guī)定的緊急避險(xiǎn)，卻不一定會(huì)得出這種觀點(diǎn)。這是因?yàn)椋毡镜木o急避險(xiǎn)只要避難行為“導(dǎo)致的損害不超過(guò)所避免的損害”就可以成立，乙一個(gè)人死亡這種侵害結(jié)果，就可能被評(píng)定為，并不超過(guò)被避免了的5個(gè)人的生命被侵害這一結(jié)果。從這個(gè)觀點(diǎn)出發(fā)，生命權(quán)的兩難境況中，只要是有想要將損害限制到*小化的意圖，就有可能被認(rèn)定為緊急避險(xiǎn)。
2．自動(dòng)駕駛汽車在變成階段的問(wèn)題
在德國(guó)，對(duì)扳道工事例中任何行為的正當(dāng)化都予以否定，這已經(jīng)是公認(rèn)的觀點(diǎn)，但是對(duì)于自動(dòng)駕駛汽車的程序設(shè)計(jì)，卻有另外一種觀點(diǎn)更為有力。根據(jù)這種觀點(diǎn)，實(shí)際上產(chǎn)生生命侵害的時(shí)候是否可以從事后的觀點(diǎn)出發(fā)對(duì)其進(jìn)行正當(dāng)化，和事前是否能夠采取某種策略避免死亡事故，是兩個(gè)不同的問(wèn)題點(diǎn)。在前者，想要事后對(duì)生命侵害這一結(jié)果進(jìn)行正當(dāng)化是不被容許的，但是后者，事前就要有將損害*小化的理念則被規(guī)定為義務(wù)，為了使損害*小化而采取某種措施被認(rèn)為是“可以允許的危險(xiǎn)”。
即便是在日本，針對(duì)生命的兩難境況，也并不是說(shuō)只要有將損害*小化的理念，就可以將其行為正當(dāng)化，但上述德國(guó)的觀點(diǎn)也是值得參考的。可以理解為，對(duì)于**種已經(jīng)將事故發(fā)生的可能性降到*低的情況下仍然發(fā)生了的事故，第二種將損害減少到*小化的程序，被認(rèn)定為可以允許的危險(xiǎn)，其殺人罪與過(guò)失駕駛致死罪不成立。從這種理解出發(fā)，對(duì)于事例2中汽車公司Y2，出于可以允許的危險(xiǎn)這一理由，將被判定為不予處罰。 四結(jié)語(yǔ)
本文所述的內(nèi)容中，關(guān)于自動(dòng)駕駛汽車是否是通過(guò)信息網(wǎng)絡(luò)與其他自動(dòng)駕駛汽車聯(lián)動(dòng)運(yùn)行這一問(wèn)題是開(kāi)放性的，沒(méi)有進(jìn)行具體的論述。但是今后隨著AI網(wǎng)絡(luò)化的進(jìn)展，我們也當(dāng)然可以設(shè)想，第3級(jí)以上自動(dòng)駕駛汽車，會(huì)與其他自動(dòng)駕駛汽車以及AI聯(lián)結(jié)，追求更高效率和高性能的操作。但是，這樣高效率高性能的AI網(wǎng)絡(luò)系統(tǒng)，當(dāng)然也依然存在著發(fā)生事故的可能性。本文主要對(duì)發(fā)生這種事故時(shí)的刑事責(zé)任的歸屬問(wèn)題展開(kāi)了討論。
像這種廣泛的網(wǎng)絡(luò)化如果進(jìn)一步得到發(fā)展，我們可以預(yù)想到，自動(dòng)駕駛汽車發(fā)生死傷事故的情況下，應(yīng)該被追究刑事責(zé)任的主體不僅僅包括駕駛?cè)藛T，或者說(shuō)并不是駕駛?cè)藛T，而是變成了管理網(wǎng)絡(luò)的“高級(jí)人員”。針對(duì)這種管理責(zé)任，今后也有必要進(jìn)行更深入的探討。
方寸AI聯(lián)結(jié)的社會(huì):人工智能網(wǎng)絡(luò)化時(shí)代的倫理與法律 作者簡(jiǎn)介
福田雅樹(shù)
東京大學(xué)研究生院學(xué)際信息學(xué)博士。曾任總務(wù)省信息通信政策研究所調(diào)查研究部部長(zhǎng)，現(xiàn)任大阪大學(xué)社會(huì)技術(shù)共創(chuàng)研究中心教授（副所長(zhǎng)），兼任研究生院法學(xué)研究科教授。
林秀彌
京都大學(xué)研究生院法學(xué)研究科法學(xué)博士。現(xiàn)任名古屋大學(xué)研究生院法學(xué)研究科教授、總務(wù)省電波監(jiān)理審議會(huì)委員、日本學(xué)術(shù)會(huì)議合作會(huì)員。
成原慧
東京大學(xué)研究生院學(xué)際信息學(xué)府博士課程結(jié)業(yè)。現(xiàn)任九州大學(xué)法學(xué)研究院副教授、理化學(xué)研究所革新智能綜合研究中心客座研究員。
譯者簡(jiǎn)介
宋愛(ài)
日本慶應(yīng)義塾大學(xué)社會(huì)學(xué)研究科博士，慶應(yīng)義塾大學(xué)媒體與傳播研究所研究員。
書(shū)友推薦
- >
經(jīng)典常談
- >
小考拉的故事-套裝共3冊(cè)
- >
人文閱讀與收藏·良友文學(xué)叢書(shū):一天的工作
- >
【精裝繪本】畫(huà)給孩子的中國(guó)神話
- >
伯納黛特,你要去哪(2021新版)
- >
中國(guó)歷史的瞬間
- >
推拿
- >
二體千字文
本類暢銷
