ZAO可能產生的潛在危險和不安全性，也是人工智能為社會提供產品的同時人們必然面臨的挑戰。

名為ZAO的AI換臉軟件紅遍網絡，然而好景不長，一夜爆紅“ZAO”的微信分享鏈接目前已經被停止訪問了。關于“ZAO”刷屏后所帶來的隱私焦慮與風險擔憂，仍在蔓延。

實際上，ZAO軟件就是一款經改造的換臉APP，2017年發源于美國，稱Deepfakes，是深度機器學習(deep machine learning)和假照片(fake photo)的簡稱(合稱)，最生動的稱呼是深度(照片)造假。

既然是造假，當然要禁止。它不僅可能產生因個人信息泄露帶來的種種不安全，如果涉及犯罪，輕而易舉的換臉操作也會讓真假罪犯難辨，同時加大司法成本。當然，在一些國家，如美國，換臉還可能成為反恐的夢魘，既可以讓恐怖分子很容易通過換臉作案和逃脫，也加大了安全部門反恐的難度。

所有這些問題都是ZAO和相似軟件可能產生的潛在危險和不安全性，這也是人工智能為社會提供產品的同時人們必然面臨的挑戰。因此，如何監管才是最現實和最嚴峻的問題。

現在ZAO軟件就面臨著管理者禁與放的困難抉擇。而對于換臉，美國歐盟等認為，即便是潛在的威脅，也極其嚴重，必須先出手防范。

今年1月28日，美國卡內基國際和平基金會專門發表文章《國家如何應對Deepfakes?》，指出，以Deepfakes為代表的換臉技術具有一系列潛在的危害，包括煽動政治暴力、破壞選舉、擾亂外交關系、提供虛假證據并干擾司法、實施敲詐等，希望各國明確定義Deepfakes的不正當使用，亟須社會定義什么可以接受，什么不可以接受，這既有利于社會和法律的管理，也有利于社交媒體規范其平臺，管理網上內容。

今年6月13日，美國眾議院情報委員會對Deepfakes舉行了聽證會，會上該委員會主席、眾議員亞當·希夫稱，篡改視頻的傳播為2020年總統大選帶來了一種“噩夢般的”場景，讓議員、新聞媒體和公眾“難以分辨什么是真實的，什么是虛假的”。因此，他和美國馬里蘭法學院教授達尼埃爾·西特龍建議國會考慮對《通信規范法》第230條(互聯網服務不必為其用戶的行為負責)進行修改，以打擊Deepfakes，保護用戶免受假新聞的誤導。

針對Deepfakes換臉技術產生的具有破壞性的危險性內容，歐盟也在2019年初出臺了應對指南，以幫助公眾分辨某條信息的來源，信息是如何產生的以及信息是否值得信賴。

可以看到，對換臉技術的潛在危險極為重視的美國和歐盟現在還沒有出臺法律予以禁止，只是在進行論證。但迫于壓力，美國的Reddit上關于換臉技術的討論版被刪除，換臉技術也在美國被全網封禁，其GitHub開源代碼也被清除。

盡管目前看來，ZAO軟件還沒有造成實際上的危害，但是，正如網友所指出，一個潛在危害非常實在：“有手機號，有面部圖像，通過技術合成，犯罪分子可以替你和你家人通話了。”因此，公眾的擔心并非杞人憂天，有必要及早以明確的法律條款予以規范。