近日,根據《互聯網信息服務深度合成管理規定》,國家公開發布境內深度合成服務算法備案信息,國家網信辦發布《境內深度合成服務算法備案清單》,41款深度合成技術服務算法獲得備案,其中文本對話、智慧客服等是主要應用場景。清單的出臺,源于人工智能蓬勃發展的大背景下機遇與風險并存的局面,體現了政府部門對于科技發展方向的宏觀掌舵,有利于在日新月異的變化中撥云開霧,最終迎來人工智能發展的曙光。
《清單》出臺的背景分析
人工智能行業健康發展需要法律法規的跟進。
在這之前,在人工智能相關立法方面,監管存在一定漏洞這為人工智能侵犯個人隱私的罪惡滋生了溫床。由于人工智能可以取代一部分社會原有勞動力,且其具有人類因生理限制無法達到的優勢,更受用工單位偏愛,因此,勢必會導致社會范圍內的大規模失業。
人工智能發展的規模與未來還存在極大的不確定性,如果法律法規在此時失守,無法在宏觀層面把控與調節人工智能發展方向,那么人類的存亡也將陷入極大的不確定之中。
人工智能發展初期行業粗放,存在隱患。
近日,AI“一鍵脫衣”的相關話題不斷出現在輿論中心,人工智能的濫用對于個人名譽的侵犯愈演愈烈,隨著AI軟件的普及,惡意P圖的情況也更加輕易,甚至被推舉成了一件“低風險 高投入”的現象。然而,這一現象不僅在網絡范圍內瓦解了個人肖像權以及名譽權的嚴肅性,同時還造成了個人隱私信息大量泄漏的問題,嚴重危害社會穩定。
人工智能繁盛發展需要明確權責主體。
人工智能的迅速發展對我們的生活產生了巨大的變革,不僅為各行各業帶來了發展的機遇,同時也帶來了一系列挑戰。由于人工智能是近些年來的新興行業,法律法規尚不完善,需要隨著該行業的發展不斷完善法律界定。尤其是在AI亂象頻發時,清晰的權責主體劃分能夠極大規范人工智能行業發展。
《互聯網信息服務深度合成管理規定》的關鍵所在
不同的責任主體需要承擔具體的相關責任。
根據《清單》,有大模型、圖像生成以及識別、智能客服以及人臉融合等算法種類上榜入列,互聯網大廠們占據了榜單的半壁江山,除此之外,《清單》中還列出了各個算法對應的應用場景。通過明確各種算法的功能以及貼近日常生活,人工智能逐漸由供給側邁入應用側的路徑。深度合成人工智能的法規的不斷完善,有利于保證各責任主體有法可依,為人工智能行業肅清風氣,保障用戶權益。
人工智能的技術融合需要細分賽道,奠定發展基調。
《清單》囊括了41種深度合成技術服務算法,為人工智能行業發展指明了發展方向,技術發展朝著應用端方向精進,智能客服、圖像生成、即時通訊、多模態內容等應用場景得到重視,在人工智能發展的初期初步建立健全行業標準,為技術的服務應用提供指引,也為深度合成技術的安全可靠發展指明了方向。
規定人工智能行業中合法合規的企業。
《互聯網信息服務深度合成管理規定》第十九條明確規定,具有輿論屬性或者社會動員能力的深度合成服務提供者,應當按照《互聯網信息服務算法推薦管理規定》履行備案和變更、注銷備案手續,體現了人工智能相關企業應具備一定的行業自律。同時,這也是我國第一部針對深度合成服務治理的專門性部門規章,規范互聯網信息服務深度合成管理,為技術的服務和應用提供了規范。
《互聯網信息服務深度合成管理規定》的重大意義
呼應現實需求,通過完善立法平穩群眾對于人工智能的恐慌。如上文提及,深度合成技術的非法操作會引起一系列對于個人權利的侵蝕,導致違法行為增加,為個人造成名譽和財產損失;另一方面,深度合成技術濫用會導致社會信任瓦解,不利于社會穩定。因此,《互聯網信息服務深度合成管理規定》的出臺能夠推動人工智能技術朝著更加安全穩定方向發展,有利于保護個人隱私,同時,削減民眾對于新技術的恐慌情緒;其次,《互聯網信息服務深度合成管理規定》的出臺能夠規范深度合成人工智能行業,推動行業健康發展。
解決現實問題,通過明確糾紛中相關責任主體推動法律法規的正常運行?!痘ヂ摼W信息服務深度合成管理規定》是為了解決互聯網信息服務提供者在使用深度合成技術時,可能導致的虛假信息、侵權信息等問題而制定的。其主要目的是規范互聯網信息服務行業的經營行為,保護消費者的合法權益。
該規定的出臺,使得相關的責任主體在糾紛中更加明確。互聯網信息服務提供者應當履行管理義務,對于深度合成生成的內容進行真實性和合法性審核,并及時更新、刪除不良信息;同時,應當對用戶發布不良信息承擔相應的管理責任,包括追溯信息來源、記錄存儲信息等。
這意味著,如果在使用深度合成技術時,互聯網信息服務提供者沒有履行管理義務,且未能審核生成內容的真實性和合法性,那么將會面臨相應的處罰和賠償責任。這一點既保護了消費者的權益,又起到了警示作用,遏制了信息服務提供者濫用深度合成技術的行為。
此外,《互聯網信息服務深度合成管理規定》還明確了合成內容標識、存儲、備案等方面的具體規定,提高了互聯網信息服務的透明度和可追溯性。這一規定為糾紛解決提供了更多的證據依據,同時也讓管理部門更容易對相關行為進行監管。
未雨綢繆,通過完善法規起到震懾作用?!痘ヂ摼W信息服務深度合成管理規定》的出臺是一種未雨綢繆的措施,目的在于加強對互聯網信息服務行業的監管,防范和遏制濫用深度合成技術所帶來的風險和隱患。通過完善法規,該規定起到了以下幾方面的震懾作用。
首先,它明確了責任主體。根據該規定,互聯網信息服務提供者是使用深度合成技術生成信息的主體,因此,他們也應當對信息內容的真實性、合法性進行審核和把關,如果發現不良信息,應當及時刪除。這一規定的出臺使得互聯網信息服務提供者更加重視信息審核工作,履行好相應的管控職責。
其次,它對使用深度合成技術生成信息的標識、存儲、備案等方面做出了詳細規定,這些規定可以讓公眾以及監管部門更加了解相關信息的來源和流向,從而更好地進行監管和治理。同時,這也會對那些企圖利用深度合成技術發布虛假信息或侵犯他人權利的行為形成打擊和警示。
再次,該規定明確了違規行為的處罰和賠償責任,包括對不良信息發布者和網絡服務提供者的追究。這一點讓那些企圖利用深度合成技術進行非法活動的人或公司知道,一旦被發現,將會面臨相應的法律風險和經濟損失,從而起到了威懾作用。