當(dāng)前，以ChatGPT為代表的AI大模型，涌現(xiàn)出了越來(lái)越多令人難以置信的能力，這讓越來(lái)越多的人對(duì)這場(chǎng)AI能力競(jìng)賽感到恐懼。上游新聞注意到，無(wú)論是支持AI還是反對(duì)AI的人，都承認(rèn)一個(gè)事實(shí)：AI將深刻影響人類歷史。在這個(gè)歷史關(guān)頭，每一個(gè)人都需要捫心自問(wèn)：放任還是監(jiān)管，擁抱還是禁絕，前進(jìn)還是后退？“To be, or not to be, that is the question.”
(資料圖片)
編劇和美工成首批“受害者”
當(dāng)?shù)貢r(shí)間2023年5月3日，美國(guó)好萊塢約1.15萬(wàn)名電影和電視編劇走上紐約和洛杉磯街頭罷工，呼吁提高薪資，要求公平的合約，拒絕給AI打工。據(jù)報(bào)道，美國(guó)編劇協(xié)會(huì)WGA先前與主要電影制作公司和流媒體平臺(tái)爭(zhēng)取加薪談判破裂后，宣布了此次罷工。罷工導(dǎo)致許多美國(guó)主流電視節(jié)目停播，一些電視劇與電影將延期上映。
這是自2007年以來(lái)，美國(guó)娛樂(lè)業(yè)首次出現(xiàn)的大規(guī)模罷工。
近年來(lái)，AI的快速發(fā)展橫掃各個(gè)領(lǐng)域，包括娛樂(lè)業(yè)。本次罷工也受到AI創(chuàng)作工具的沖擊影響。在此次談判中，WGA要求制片公司確保編劇不會(huì)被強(qiáng)迫改寫(xiě)AI創(chuàng)作的劇本、利用AI改寫(xiě)之前編劇創(chuàng)作的舊劇本的要求，但也以談判破裂而告終。
編劇們的罷工標(biāo)語(yǔ)寫(xiě)得很有梗，“AI無(wú)法取代編劇”“用AI替代高管”“AI沒(méi)有靈魂”“我讓chatgpt寫(xiě)一個(gè)標(biāo)語(yǔ)，但它很爛?！?/p>
事實(shí)上，雖然科技互聯(lián)網(wǎng)公司在人工智能大模型方面都在All in，但對(duì)AI表示出擔(dān)心的不僅僅是美國(guó)編劇。在中國(guó)，游戲行業(yè)的ACGN從業(yè)者對(duì)于AI的看法也是極其復(fù)雜的。
杭州一家知名游戲公司的原畫(huà)師最近剛被裁員，不愿透露姓名的他說(shuō)：“美術(shù)這行算是完了?！彼徽J(rèn)為AI可以直接替代畫(huà)師，但AI作圖師或許可以。據(jù)他觀察，他所在的城市“一半以上的新招美術(shù)崗位都是AI作圖師”，月薪8k是他月薪的1/3。
某公司招聘截圖
基礎(chǔ)崗位首當(dāng)其沖面臨壓力，其次是美術(shù)外包處于“能砍則砍”的狀態(tài)。接下來(lái)他準(zhǔn)備做點(diǎn)實(shí)體小生意，他覺(jué)得“圖可以AI畫(huà)，飯不能AI吃”，對(duì)于美術(shù)行業(yè)的前景，他看不到一點(diǎn)樂(lè)觀。
一家漫畫(huà)公司負(fù)責(zé)人表示，“漫畫(huà)領(lǐng)域?qū)τ贏I既期待又謹(jǐn)慎”，他們希望AIGC能夠提升產(chǎn)能，增加IP改編漫畫(huà)的數(shù)量，但是對(duì)于如何用當(dāng)前的AIGC工具提升產(chǎn)能又并不了解，畫(huà)師們對(duì)于使用這類工具興趣不高，擔(dān)心內(nèi)容里加入AIGC會(huì)引起漫畫(huà)家的反感。
另一家漫畫(huà)公司認(rèn)為，“作為漫畫(huà)行業(yè)從業(yè)者，當(dāng)下對(duì)于AIGC很難公開(kāi)表明支持的態(tài)度”，目前已經(jīng)跟一些AIGC機(jī)構(gòu)開(kāi)展合作，嘗試為畫(huà)師在創(chuàng)意創(chuàng)作等領(lǐng)域上提供幫助，但也在密切關(guān)注創(chuàng)作者和讀者們的反應(yīng)。
巴菲特馬斯克都在反對(duì)AI
5月6日，巴菲特在伯克希爾哈撒韋公司的年度會(huì)議上，明確表示反對(duì)人工智能的迅速崛起。
巴菲特稱，盡管現(xiàn)代人工智能發(fā)展迅速，它們似乎具有令人難以置信的能力，比如說(shuō)OpenAI公司的ChatGPT，但正是這些能力讓他感到害怕?！爱?dāng)一個(gè)東西可以做各種各樣的事情時(shí)，我就有點(diǎn)擔(dān)心了。因?yàn)槲抑牢覀儽仨毎l(fā)明它，就像我們有一個(gè)非常非常好的理由在第二次世界大戰(zhàn)中發(fā)明了原子彈一樣。我們這樣做是很重要，但是這種能力被釋放出來(lái)，對(duì)世界的下一個(gè)200年有好處嗎？”
巴菲特并不是唯一一個(gè)站出來(lái)反對(duì)人工智能崛起的有影響力的人。谷歌的前人工智能大師、被稱為“人工智能教父”的杰弗里辛頓博士最近公開(kāi)承認(rèn)，他對(duì)自己開(kāi)發(fā)人工智能技術(shù)的工作感到“后悔”。他表示：“一旦AI在人類灌輸?shù)哪康闹猩闪俗晕覄?dòng)機(jī)，那以它的成長(zhǎng)速度，人類只會(huì)淪為硅基智慧演化的一個(gè)過(guò)渡階段。AI會(huì)取代人類，它有能力這么做，在當(dāng)下的競(jìng)爭(zhēng)環(huán)境下也沒(méi)有什么辦法限制它，因此這只是一個(gè)時(shí)間問(wèn)題?！?/p>
今年4月中旬，馬斯克在接受?？怂共稍L時(shí)警告，人工智能可能導(dǎo)致“文明毀滅”，支持“政府對(duì)AI進(jìn)行監(jiān)管，盡管受到監(jiān)管并不好玩”，一旦AI“可能處于控制地位，再制定法規(guī)可能為時(shí)已晚”。
就在3月29日，非營(yíng)利組織“未來(lái)生命研究所”發(fā)出一封聯(lián)合署名的公開(kāi)信，呼吁“所有AI實(shí)驗(yàn)室立即暫停對(duì)比GPT-4更強(qiáng)大的AI系統(tǒng)的訓(xùn)練至少6個(gè)月”。馬斯克位列這封公開(kāi)信署名榜單的第一位。
據(jù)不完全統(tǒng)計(jì)，從2014年截止到現(xiàn)在，馬斯克公持續(xù)表達(dá)對(duì)AI的擔(dān)憂。尤其是2018年在接受采訪時(shí)，馬斯克直言“人工智能比核武器更危險(xiǎn)”。馬斯克對(duì)AI的“戒心”大致可以概括為兩個(gè)層面：一是擔(dān)憂人工智能的進(jìn)化可能脫離人類的控制，從而對(duì)人類造成負(fù)面影響甚至潛在的危險(xiǎn)；二是呼吁加強(qiáng)對(duì)人工智能的監(jiān)管，以確保其安全可控。
盡管視AI為洪水猛獸，馬斯克從未停止過(guò)對(duì)AI方面的投資、研發(fā)。當(dāng)下知名的AI公司OpenAI和DeepMind的融資歷程中均有馬斯克的足跡。馬斯克此前挖來(lái)了OpenAI首席科學(xué)家、AI大牛Andrej Karpathy領(lǐng)導(dǎo)特斯拉自動(dòng)駕駛團(tuán)隊(duì)；專門(mén)開(kāi)辟特斯拉AI日并推出了自己的超級(jí)計(jì)算機(jī)Dojo；早早將手伸向了具身智能，即人形機(jī)器人；其腦機(jī)接口技術(shù)公司Neuralink的最終目的也是為了“將人類意識(shí)與AI融合”。
對(duì)AI立法、設(shè)限呼聲愈烈
今年3月22日，美國(guó)非營(yíng)利性智庫(kù)未來(lái)生命實(shí)驗(yàn)所（future of life institute，簡(jiǎn)稱FOLI）在自己的官網(wǎng)上刊發(fā)了名為《暫停大型AI實(shí)驗(yàn)：一封公開(kāi)信（Pause Giant AI Experiments: An Open Letter）》的請(qǐng)?jiān)笗?shū)，一時(shí)間吸引了廣泛的關(guān)注。
截止目前，F(xiàn)OLI宣稱其已經(jīng)收集了超過(guò)30000個(gè)簽名，并完成了對(duì)其中27565個(gè)的認(rèn)證。在這些簽名中除了廣為人知的特斯拉CEO埃隆·馬斯克、蘋(píng)果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克外，還有眾多科學(xué)學(xué)術(shù)界泰斗和科技產(chǎn)業(yè)界精英。
請(qǐng)?jiān)笗?shū)截圖
請(qǐng)?jiān)笗?shū)一連拋出涉及知情權(quán)、勞動(dòng)就業(yè)權(quán)、人類種族安全與可持續(xù)發(fā)展的四個(gè)問(wèn)題，并提出“只有當(dāng)我們確信它們的影響是積極的并且它們的風(fēng)險(xiǎn)是可控的時(shí)候，才應(yīng)該開(kāi)發(fā)強(qiáng)大的人工智能系統(tǒng)”。
請(qǐng)?jiān)笗?shū)提出了四點(diǎn)呼吁。首先，呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練對(duì)比GPT-4更強(qiáng)AI系統(tǒng)至少6個(gè)月，并保證其公開(kāi)、透明、可驗(yàn)證，且必要時(shí)由政府介入予以保障。其次，人工智能行業(yè)內(nèi)的實(shí)驗(yàn)室和獨(dú)立專家應(yīng)利用這段時(shí)間，共同制定一套用于高級(jí)人工智能設(shè)計(jì)與開(kāi)發(fā)的共享安全協(xié)議，并由第三方獨(dú)立專家進(jìn)行嚴(yán)格審計(jì)和監(jiān)督。再次，人工智能研究機(jī)構(gòu)在遵守共同協(xié)議的情況下，在研發(fā)中應(yīng)保障其人工智能系統(tǒng)本身更加準(zhǔn)確、安全、可解釋、透明、穩(wěn)健、一致、值得信賴和忠誠(chéng)。最后，AI開(kāi)發(fā)人員須進(jìn)一步和政策制定者合作，盡快開(kāi)發(fā)針對(duì)強(qiáng)大AI的治理系統(tǒng)。
5月4日，谷歌、微軟、OpenAI、Anthropic四家公司的主要負(fù)責(zé)人齊聚白宮，出席由副總統(tǒng)哈里斯主持的AI風(fēng)險(xiǎn)治理會(huì)議，會(huì)議內(nèi)容包括企業(yè)對(duì)政策制定者更透明地介紹其人工智能產(chǎn)品，評(píng)估人工智能產(chǎn)品的安全性，減少有偏見(jiàn)的算法決策等等。
此次會(huì)面后不久，谷歌支持的人工智能(AI)初創(chuàng)公司Anthropic公布了一套針對(duì)AI發(fā)展的書(shū)面道德價(jià)值觀，該價(jià)值觀主要適用于訓(xùn)練和保護(hù)人工智能。這次公布的人工智能道德價(jià)值準(zhǔn)則也被該公司稱為“Claude憲法”，這些準(zhǔn)則借鑒了幾個(gè)來(lái)源，包括聯(lián)合國(guó)人權(quán)宣言，甚至還有蘋(píng)果公司的數(shù)據(jù)隱私規(guī)則。
相比之下，歐盟更雷厲風(fēng)行，直接給AI風(fēng)險(xiǎn)分級(jí)、工具分類，甚至開(kāi)始醞釀法律。近日，歐洲議會(huì)成員已經(jīng)就《人工智能法（（Artificial Intelligence Act））》提案達(dá)成臨時(shí)政治協(xié)議。5月11日，歐盟委員會(huì)將對(duì)協(xié)議進(jìn)行投票；6月中旬，歐盟將進(jìn)行全體投票。該協(xié)議如果順利通過(guò)，將為歐洲《人工智能法》的出臺(tái)鋪平道路。
與美國(guó)比鄰的加拿大，去年6月就提出了《數(shù)字憲章實(shí)施法案》，明確指出企業(yè)要在監(jiān)管框架下開(kāi)發(fā)人工智能系統(tǒng)。該法案包括三項(xiàng)內(nèi)容：《消費(fèi)者隱私保護(hù)法案》、《個(gè)人信息和數(shù)據(jù)保護(hù)法庭法案》和《人工智能和數(shù)據(jù)法案》。其中，《人工智能和數(shù)據(jù)法案》規(guī)定，擁有“高影響”的人工智能系統(tǒng)的組織，需要設(shè)立程序，以識(shí)別和減輕因這些系統(tǒng)可能使用有偏見(jiàn)的數(shù)據(jù)而產(chǎn)生傷害的風(fēng)險(xiǎn)。
（文章來(lái)源：上游新聞）
標(biāo)簽：
