分類: AI 安全

  • 如果是真的就有點可笑,明知道這樣會被看光光卻沒腦地用,大家也會這樣傻嗎?筆者每次透露個人資料前必先考慮風險。

  • AI Agent 權限與安全首次成為全行業共同工程問題,同時資本持續高度集中、政策與司法爭議升溫。

    本週重點

    • Agent 安全事故密集:Claude Code 被報導刪除 4.8 萬個檔案、Meta 的 Muse 出現越權行為、OpenAI 通報 100 多家機構涉及未授權活動;防護重點正從提示詞層下移到 Agent 的執行時(runtime)權限與隔離。
    • 資本極端集中:ElevenLabs 獲老牌資管接手,估值翻倍至 220 億美元,顯示資金仍集中在少數具商業化能力的 AI 公司。
    • 政策持續分化:白宮簽署自願承諾,並將 AI 稱為「超級智能」;但佛羅里達與加州則把相關爭議推進司法程序,顯示聯邦、州與司法層級的治理路線並不一致。

    值得關注的趨勢

    • AI 影片討論量暴增:AI Weekly 統計顯示,AI Video 相關報導量較前一週增加 200%,從 4 則升至 12 則。
    • OpenAI 仍是最大話題中心:本週有 53 則追蹤報導,且在過去 20 期中有 17 期是覆蓋最多的 AI 公司。
    • 大學與教育場景成為新戰場:校園 IT 領袖首次將 AI 列為最高優先事項;劍橋拒絕 Turnitin 涉及以學生作品訓練 AI 的新條款;Dartmouth 則對其教務長的寫作展開調查。

    筆者敢言

    人類文明能夠發展,除了合適的地球環境等基本因素,語言是最大的原因,人類思考、溝通、紀錄都是用語言。換另一個角度思考,如果給AI一個獨立及自主的載體,那麼不久的將來其實可以代替人類,成為更先進的人造人?

  • Deepseek 事件後,美國學到了先要保護最新言語模型,總有些人靠值偷別人技術及資料生存!

    另一方面也令筆者無法不另外分類探討愈來愈多人使用的AI技術到底要如何安全地使用呢?個人及商業資料靜靜給別人竊取?AI慢慢偷走你的工作對社會的深遠影響?人頖如何走出這一次最新的社會革命?