LuYC

2018年1月10日 星期三

《心靈判官》:當 AI 大幅介入生活

作者: 盧育成




最近餵小孩喝奶的時候都看 Netflix 來打發時間, Netflix 近期上架了很多動畫,對於喜歡 ACG 的我也樂得一一來看。這部《心靈判官》是我看到他推薦我的影片,我也就試著看看,結果一看就著迷。

心靈判官是 Netflix 的翻譯,日文原名叫 Psycho-pass,還有出漫畫叫做《監視官常守朱》,動畫的腳本是有名的日本劇作家虛淵玄,他有名的動畫作品我其實沒看過,只知道他是以虐讀者的心出名的作家,不過倒是看過他跟台灣霹靂布袋戲合作的作品《東離劍遊記》,也相當值得一看。

而作畫一開始看這畫風覺得眼熟,後來才想起是也算小有名氣的日本漫畫《家庭教師 Hitman Reborn》的作者天野明負責的,畫風我覺得一般有在看漫畫的人應該還可以接受。


AI 管理一切





故事的設定是在不遠的未來,人們開始以超級電腦「希貝兒系統」來管理人類心靈健康,當心靈健康指數 (Psycho-Pass) 超過犯罪臨界點就會被逮捕,超過臨界點甚至可能當場處死,沒得商量。

而故事裡面的電腦有多強大呢?除了可以掃一下你的臉就可以知道你的心靈健康指數之外,還能大幅拉抬你的生活舒適度,一個按鈕按下去,可以把你的房間從日式裝潢改成歐風裝潢,可以看你的心情任意調整。不用再花大錢買衣服、買家具,通通一鍵搞定。

早上要去見客戶,先按鈕選擇穿西裝,下午要去見好友,按個鈕就可以改穿時髦套裝,非常方便。在減肥可以跟電腦要 300 卡的午餐,等下要運動可以吃個 600 卡的午餐,而且口味任意搭配,拉麵、咖哩、牛排都可以。


終究還是人心重要


這類的科幻片其實我們看過很多了,不管是以前的《回到未來》、《駭客任務》、到近一點的《獵殺代理人》、《阿凡達》,對於未來的想像我們一直都有個憧憬在,那《心靈判官》好看在哪裡?

終究還是人心精彩。而虛淵的腳本真的寫得不錯。

我喜歡這段描寫人類生活以離不開 AI 的對話:「你現在生活都靠手機裡的希貝兒系統來輔助對吧,那假設你手機壞掉了,你無法用希貝兒來輔助你工作的怎麼辦,只能在家睡覺休息對不對?那你其實就是個機器人了。」

劇中也有引用尼采的經典名句:「當你凝視著深淵的同時,深淵也在凝視著你。」

當為了追查犯罪者,警察常常也得把自己投射到犯罪者的身上去揣摩犯人的想法,常常自己也得心靈指數也跟著混濁,所以劇中有著負責追犯人、心靈指數也屬於犯人等級的「執行官」,和監視這些執行官的「監察官」。有種不弄髒自己手的諷刺感。

劇中也討論了許多現象,網路 youtuber 走紅的現象,職場霸凌,人類機器化的永生生命,以及最重要的,當我們依靠超級電腦的 AI 存活的現在,如果 AI 出錯了,怎麼辦?


人類大命運說的世界


在讀完了《人類大命運》之後,其實特別有感觸,劇中就是出現了大命運書中的「神人」,我們要怎麼去面對神人的存在?以及當 AI 統治了人類,人類又該把自己的地位定在哪裡?

裡面讓我印象最深刻的是,當警察局長對監視官說,「你有沒有想過,為什麼希貝兒系統這麼完美,卻還是需要人類警察去執行勤務?如果希貝兒都不會出錯,那我們派出一堆機器警察就好了,根本不需要警察的存在了。」

就像常見的劇本定律一樣,前面提到了一個按紐如果被按下、超級武器失控會多可怕的話,後面就一定會讓那個按紐被按下,武器會失控。希貝兒系統也真的在後面出錯了,可是此時人類變得只會依賴希貝兒系統了,這時候剩下的,就只是個悲劇了。

這部我目前還沒看完,第一季 24  集,目前看到第 17 集都還覺得精彩,不過第二季換作家就好像普普了,建議有興趣的先看完第一季,第二季要不要繼續追究看大家了。

我們會不會走到這種未來,不知道。但如果走到這種未來,怎麼辦?可以看本劇來參考看看。


延伸閱讀:


《人類大命運》:對未來的想像
《人類大歷史》:從上古到未來
《地平線:期待黎明》:機械盛世之後