昨晚看新聞,現任台北市長拋出一個政策宣示:未來公務員將配給自動化的AI工具,讓台北市政更「前進」。台北市資訊局也已快速推出 CiviClaw,目標是 2027 年讓每位公務員都能無門檻使用 AI。 這樣的政策方向讓我感到憂心。長期觀測各國個資保護規範的我清楚知道:台灣的個人資料保護主管機關至今仍是「籌備處」,尚未正式運作;《個人資料保護法》的修法呼聲雖久,AI相關條款卻付之闕如;《人工智慧基本法》已於今年1月施行,但高風險AI認定標準的子法至今仍是空白。 有網路、有 IoT 不等於智慧城市,有 AI 當然也不等於智慧城市,應該重視制度能否承接工具帶來的責任。 歐盟已明確禁止業者使用 AI 推測員工或學生的心理狀態;美國聯邦政府要求採購 LLM 時廠商必須提交模型卡與資料卡;韓國 AI 基本法的子法早已配套生效。這些都是台灣政府在推動配給公務員 AI 之前,必須正視的制度差距。 以下我與大家分享長期觀測的內容,由AI協助整理資料: 歐盟:從禁令到揭露義務的多層規制體系 歐盟的AI治理框架是由多部法律疊加起來的立體架構,最底層是2018年施行的 GDPR,處理的是個人資料如何被蒐集、儲存、使用的基礎規則,再來疊是2024年生效的《人工智慧法》(EU AI Act,下稱 AI 法),建立不同風險等級分類管理AI系統,從禁止使用到高強度監管、再到一般透明度義務,形成不同層次。最新的一層則是仍在立法程序中、但主要架構已確立的 Digital Omnibus ,試圖修補 AI 法與 GDPR 之間的規範衝突。 AI 法第50條是最直接影響生成式AI服務的條款,自2026年8月2日起全面適用。根據這條規定,凡是讓使用者與AI系統互動的業者,必須主動告知對方「正在與 AI 互動」,而不能讓人誤以為面對的是真人。AI生成的文字、影像、音訊等內容,還必須以機器可讀的格式加上標記,使平台與監管機關得以溯源辨識。與此同時,AI法第14條要求高風險AI系統必須設計成「可由自然人有效監控」的形式,確保機器的決策不會在缺乏人工審核的情況下直接作用於當事人。 AI法所稱的「高風險 AI 」,涵蓋的場景比一般想像的廣。依該法附件三列舉,生物辨識系統、關鍵基礎設施管理、教育與職業篩選、就業與人員管理、信貸與社會福利申請審核、執法、移民邊境管制,以及司法審判輔助,都在高風險範疇之內。這些場景的業者必須進...
因為種種原因,今年6月1日開始,我從原單位全職轉為兼任員工,放下長期擔任的全職工作。就在做出這個決定後不久,NVIDIA GTC 大會的通知跟著到來,我候補到黃仁勳執行長 Keynote 演講的入場名額。 計程車上的台灣故事 六月的第一天早上雖然是個不太熱的陰天,我在咖啡店外攔到計程車,表示要前往台北流行音樂中心,司機大哥很敏感的說:「要去聽黃執行長演講啊?那裡排好多人。可以去買紀念品哦!」基於十多年的工作經驗,辦會、與會,我只留對我有意義會議的Badge,其他都是身外物,然而這位司機大哥的熱情稍微感染了我。 熱情的司機大哥一路上不停講述家裡親人在相關供應鏈工作的忙碌,每天都當空中飛人,落地沒多久就又要到另一個國家的工廠監督。台灣的電子製造業供應鏈養活許多家庭,這是很棒的一件事,這些家庭又帶動其他消費需求,帶動創造經濟效益。 人潮與恐慌 當我下車看到會場的人山人海時,倒抽一口氣。 因為疫情前的密集出差經驗,我得了機場恐懼症,只要看到人群、機場相關場景或班機表,全身就開始冒冷汗。平常去送機接機,或路過北門站,都要努力克制自己的恐慌。人多的場合也會觸發類似反應。 好在現場的流程管控得當,幾千人入場,一切準時開始。排隊時偶爾有人因為天氣悶熱不耐等候而抱怨,但多數人都能控制自己,沒有不愉快的事發生。每位與會者除通行證外,還收到一個漫畫版黃執行長擁抱龍蝦的小吊飾(代表NVIDIA 的 NemoClaw),是當天與會的小紀念品。 帳篷裡的 AI 人才問題 在會場外的帳篷裡,還有幾場專家訪談直播,與會者一邊排隊等候,一邊可以聽訪談。其中一場的主持人問:「我們還需要什麼樣的AI人才?或我們還需要再訓練AI人才嗎?」 這個問題讓我想起多年前「數位經濟」這四個字很熱門時,同樣的問題,只是把「數位經濟」換成「AI」,所以我只是靜靜的繼續排隊。 就像種植蔬果,不管專家怎麼呼籲,市場往往還是一窩蜂種高麗菜,搶著賺高麗菜的利潤,結果菜價崩盤。人才培育也有類似的慣性,大家一窩蜂往電子或相關領域擠,真正重要的人文領域反而乏人問津,最後又要政府砸幾千億去呼籲、鼓勵產出「內容」。 與 Windows 重逢,心情複雜 領到通行證,進入會場後,一般與會者只能遠距離觀看,所以如果沒有要再去看 Computex或是參與NVIDIA GTC其他活動的話,看轉播或是之後再看錄影就可以,而且會更清楚。 一如以往,黃...