近期，因人工智慧的迅速進步，相關的話題也受到大眾關注，然而美國有一名研究AI的電腦科學教授，在節目中預警大眾，AI未來導致人類滅絕機率高達99.9%！並表示至今仍然沒有一個AI是完全安全的。
AI帶來的滅絕風險
揚波爾斯基（Roman Yampolskiy）教授在美國路易斯維爾大學教授電腦科學，專精於網路與AI安全方面的研究，近期他自己的新書和Podcast節目中都提及了相關的論述；教授也指出，至今尚未有任何一種AI模型是完全保證安全的，並且未來人類也很難開發出沒有缺陷的高度複雜軟體。
揚波爾斯基強調，現今的AI技術在運行中已經多次出現失誤，甚至做出過開發者無法預料到的行為，他認為，除非人類能夠創造出高度複雜且零出錯的軟體，否則無法有效阻止AI執行超出其設計範圍的操作。
延伸閱讀：過度發展的科技，究竟是好是壞？8部「AI人工智慧」電影先預測
AI造成三種可能的未來
針對AI的發展，揚波爾斯基預測了三種可能的悲慘結局：第一種，人類全部滅絕；第二種，人類雖然存活，但生活在極度痛苦中；第三種，AI接管所有工作，使人類失去目標，產生極度的空虛感，而這些結局都源自於AI系統可能會變得比人類更聰明，甚至能發現人類還未知曉的事物，讓人類失去探索、求知的動力。
雖然揚波爾斯基的觀點乍聽之下十分可怕，但也有許多AI工程師認為，AI導致人類滅絕的可能性只在1%到20%之間，並沒有揚波爾斯基所闡述的這麼誇張，且最近的一項針對2700名AI研究人員的調查顯示，AI導致人類滅絕的機率僅為5%；另外，ChatGPT開發公司OpenAI的執行長山姆·奧特曼（Sam Altman）提出，建議設立一個「監管沙盒」（regulatory sandbox），以便在受控環境下對AI進行實驗並調整監管措施。
而在台北國際電腦展「COMPUTEX 2024」中，輝達（NVIDIA）執行長黃仁勳與美超微（Supermicro）創辦人梁見後，於演講時也表示，人類不會被AI控制，只要技術進步並制定相關安全規範，就能有效防範風險。強調AI技術的安全性也需要通過科學、工程和商業實踐的不斷推進來保障。
延伸閱讀：黃仁勳與梁見後台北電腦展鬥嘴！演講全程英文穿插台語，害字幕系統卡關，網笑稱：美國分析師不瘋掉才怪
AI技術的迅速發展的確對我們的生活帶來了極大的便利性，不過能帶來發展的工具勢必存在風險，在思考如何推動技術進步的同時，確保安全性和可控性也是不可或缺的， 大家覺得AI帶來的危機，會像電影情節一樣的毀滅人類嗎？
封面圖片來源：pexels
