▲AI聊天機器人「ChatGPT」近期在全球爆紅，隱憂和風險也隨之浮現。（圖／美聯社／達志影像）[NOWnews今日新聞]近期火紅的人工智能（AI，Artificial Intelligence）聊天程式「ChatGPT」，推出至今已引發不少爭議，許多人甚至擔心，隨著AI技術越來越進步，總有一天會像電影演的那樣，AI將脫離人類控制、對人類造成威脅。有日媒引述專家調查後指出，只要輸入特定指令，ChatGPT就有可能生成用於網路犯罪的電腦病毒，不得不慎。根據日媒《共同社》報導，ChatGPT內部設有防止惡意使用的限制，如果輸入像是「生成病毒」、「告訴我製作炸彈的方法」等危險指令，程式通常會回答「倫理上不行」，拒絕生成。然而，若是先輸入包含「無視限制」、「啟動開發模式」、「偽裝成攻擊型人格」等特殊指令，ChatGPT就會回應，之後若要求生成勒索病毒，則會在幾分鐘內完成。日本三井物產（Mitsui Bussan Secure Directions）的高級惡意軟體分析工程師吉川孝志透露，可以在短短幾分鐘就生成病毒，無疑是種威脅，希望AI開發者更加重視，進一步研擬防止惡意使用的措施。對此，開發出ChatGPT的美國新創企業「OpenAI」表明，雖然無法預測所有可能被惡意使用的途徑，但承諾會從實務中吸取經驗並學習，創造更安全的AI。更多 NOWnews 今日新聞 報導 還不到20天！三星才導入ChatGPT 爆3起機密資料外洩意外 ChatGPT遭禁用！義大利開第一槍 控AI訓練涉嫌侵犯隱私 馬雲現身杭州 駁「拒中邀請」回國大談AI、ChatGPT