講座摘要:公共空間的人工智慧應用與隱私隱憂

文 / 2022 網路治理研習營實習學員 韋詠祥

※會議日期:2022年8月11日(四) 14:00-16:00 
※演講1:公共空間之人工智慧應用
講者:張義明 總處長(凌群電腦 資安巨資暨智慧城市技術研發處)
※演講2:AI 監控的爭議與法律規範挑戰
講者:李建良 所長(中央研究院 法律學研究所)

在美國槍擊事件頻傳的推波助瀾下,不少政府、學校及家長團體開始思考是否需要更強化監控技術的應用。許多業者推出 AI 相關應用試圖解決問題,例如紐約打算在地鐵出入口加裝自動化檢測器,透過 AI 利用外觀形狀判斷,不用架設 X 光掃描器或是打開背包。人工智慧不僅被用於監控,在商業上也有許多的運用,例如讓店員知道貴賓走進店裡,進而提供優惠或客製化服務等。

主持人NII梁理旋副執行長提到科技本身是中性的,端看執行者想法差異會導致不同的結果,因為大家對科技的不了解,很可能會得出 AI 會破壞隱私、是邪惡工具的結論。為了平衡兩邊觀點,因此本場次特別邀請了來自業界及學界的講者,分別從 AI 的實際應用與法律及隱私層面的隱憂切入。

公共空間之人工智慧應用
講者:張義明 總處長(凌群電腦 資安巨資暨智慧城市技術研發處)

凌群電腦張義明總處長以自身在業界二十多年的經驗切入,介紹了訓練資料的重要性、公共空間中 AI 實際應用場景、警方如何利用科技輔以執法。而在實際談應用之前,他提出最重要的三個議題是資料的來源、合法性、正確性。以微軟推出的 Tay 聊天機器人為例,在 2016 年推出後不到一天,就被網路群眾訓練到出現種族歧視等偏激言論,由此可看出即使 AI 模型本身沒問題,但資料來源不正確,也會導致 AI 出錯。

張總處長先以蘇花改作為AI實際運用的案例做說明。對於部分路段只有單線道的蘇花改,以往可能需要先由人工計數車流量、根據公式計算紅綠燈時長,現在 AI 利用監視器影像辨識完不同車種的流量後,可以透過演算法自動調整最佳紅綠燈秒數,分散車流以提高總體疏運速度。外國也有發展出音頻分析技術,在各個路燈上的麥克風收到槍聲後,利用三角定位判斷開槍地點並通報警方,不過臺灣管制槍枝、比較少槍擊案,放鞭炮又會產生誤判,因此除了技術外有很多前置問題要排除。

進到問答環節時主持人先點出了一個擔憂,演講中提到人臉辨識等各種影像分析技術,讓監視器像中國天網一般。張總處長解釋中國天網是無時無刻在識別,並將辨識結果與真實身份做整合,警員隨時可調閱;臺灣的做法會確定因公需求才能使用,並建立完整機制進行稽核,避免濫用或誤用,且需要時才會把影像匯入軟體,因此本質上還是有所不同。

也有聽眾問到各家廠商販售 AI 產品時,是否會審視客戶的用途正當性。張總處長表示以凌群電腦為例,在收到需求時除了考量技術可行性也會討論適法性,特別是根據長期合作經驗,警方比廠商更在意是否符合現行法規框架、事後可以如何稽核避免誤用。

AI 監控的爭議與法律規範挑戰
講者:李建良 所長(中央研究院 法律學研究所)

下半場的專題講座則由中研院法律所的李建良所長先就公共空間的定義討論起,接著討論何謂侵犯合理的隱私期待,最後講到未來歐盟法律走向。

對於定義空間屬性,戲院及工廠等「非請莫入」的場所算是私人空間,員警可以隨時出入的地點則是公共空間。在一個大家都看得到的公共空間,與隱私本身互相矛盾,可以探討如何算是合理的隱私期待。作為房東當然不能進入房客家中,請了保母也不該在家中用監視器侵犯隱私,老闆查看員工的公司信箱也是有爭議的行為。

行車記錄器的本質也是在監控,如果要探討錄製內容是否為個人資料、有沒有侵犯他人隱私,可以考慮拍攝到的內容是否可辨識出個人。法規明訂路邊監視器是為了防止犯罪,只能設在較容易引發犯罪的地方,如果用來作為主動取締交通違規的資料來源,可能就會產生爭議。

歐盟人工智慧法所涵蓋的層面非常廣,例如原則上禁止為了犯罪偵防目的,遠端進行人臉辨識,只有拯救人質等重大犯罪才能例外使用。也因為 AI 時代的資料串聯非常可怕,因此需要限定使用目的。在搜集資料時要盡到標示告知義務,例如在賣場設置隱藏式監視器,需要讓員工知道裝設位置。最後提到以上種種議題,最終都還是自由與安全之間的辯證及反思,AI 的反應速度與便利性提高,同時提升正確性與安全性,但是否會因此犧牲某部分的自由,或是喪失資料的自主性,都是需要再思考及討論的地方。

有聽眾提問到如何針對監控目的,定義幾個可依循的合理原則。李所長以法律角度,拆分為形式性原則及實質性原則兩類。以公部門來說,由於監控會侵害到人民的隱私,進行任何監控都需要有相關的法律依據、必要性,要做目的外利用時也得有相應的理由、依據、必要性,才能夠通過層層審查避免誤用。

詳細活動完整影片,歡迎至NII產業發展協進會Youtube頻道查詢:https://www.youtube.com/watch?v=CrPIUJZXjbI

※指導單位:國家通訊傳播委員會、NII產業發展協進會

發表迴響

在下方填入你的資料或按右方圖示以社群網站登入:

WordPress.com 標誌

您的留言將使用 WordPress.com 帳號。 登出 /  變更 )

Twitter picture

您的留言將使用 Twitter 帳號。 登出 /  變更 )

Facebook照片

您的留言將使用 Facebook 帳號。 登出 /  變更 )

連結到 %s