人工智慧會主宰我們嗎?

閱讀一篇文章或觀看人工智慧(AI)大師的演講，讓觀眾對這項技術的未來做出黯淡的預測，這太常見了-機器人將是有感知的，他們肯定會決定殺死或奴役所有人。換句話說，我們的機器人霸主毀滅我們只是時間問題，我們無能為力。

(1) 人工智慧系統變得越來越智慧，在某些應用中已經超越了人類智慧。例如，人工智慧系統成功地在國際象棋和圍棋比賽中擊敗了世界冠軍。

(2) 人工智慧和機器學習的發展加速到了不歸路，最終將使更多的系統變得完全自主。

(3) 人工智慧模型變得如此複雜，以至於即使是開發它們的數據科學家也不了解這些模型是如何運作和做出決策的。

人工智慧和機器學習增強系統已經在我們身邊存在了一段時間，而且弊大於利。例如，信用行業至少 30 年來一直在信用評分中使用機器學習，以在大多數工業化世界中提供貸款和抵押貸款。這種自動化導致比 1960 年代或 1970 年代更廣泛的社會階層可以使用貸款和信用卡。它還使流程更快、更準確、更安全。

可能很難接受即使是世界上最好的國際象棋或圍棋冠軍也無法擊敗計算機的事實。所以是的，人工智慧和機器學習可以在特定任務中勝過人類——但這一事實不需要有負面含義。如果人類正在執行導致他們犯錯誤並傷害他人的任務，我們應該鼓勵工程師和開發人員創建能夠更好地執行這些任務的系統。我們今天擁有必要的保障措施，允許人類干預和修改自動化系統，以防止濫用和偏見，並保護那些數據處於異常狀態的人。

關於人工智慧和機器學習發展速度的第二點不應該成為驚慌的理由，而應該是慶祝和支持這一進步的理由。我們都受益於自動化系統，該系統在醫學測試分析方面已經運行了至少 20 年，尤其是在監測和篩查患者的慢性疾病和高膽固醇或糖尿病等病症方面。今天的大多數實驗室工作和報告都是在人工智慧和機器學習的幫助下自動生成的，它會提醒醫生和患者注意異常或值得注意的結果。這些系統基於統計和機器學習模型，可分析長時間收集的大量數據，並將特定條件與測試結果相關聯並識別。這些自動化系統在確定醫生必須關注的關注領域方面優於人類醫生。同樣，在這個例子中，這些模型可以比以往更快、更準確地做出醫療決策，並且減輕醫生不得不手動分析他們辦公桌上的每一個測試結果的負擔。參與此過程的每個人都受益於這些技術進步。

我們可以總結上述內容，只要人們總是審查和驗證這些智慧系統做出的決定，人工智慧和機器學習模型的加速採用以及必要的部署技術就會在許多領域造福社會。

人工智慧末日預言者經常提出的最後一個問題是機器學習模型和人工智慧係統的複雜性增加，即使對於世界上最優秀的數據科學家和開發人員也是如此。末日預言家說，由於這種複雜性，即使是世界上最聰明的人也無法對人工智慧和機器學習系統中發生的事情做出判斷。

當然，任何稱職的數據科學家都不會讓這種情況發生。今天的數據科學家已經開發並實施了可解釋的 AI技術，該技術使用戶可以準確地了解這些模型如何做出決策和收集數據。AI 技術供應商（例如 Altair）在其軟體產品中包含了豐富的此類工具集合，例如 Altair Knowledge Studio 。由於該主題的重要性，Altair 等供應商不斷投資開發工具和界面，使任何用戶都可以輕鬆理解和修改 AI 和機器學習模型。其中一些工具甚至可以解釋每個數據點背後的決策原理。

我們可以用三個簡單的理由來揭穿上述討論中的所有世界末日論點，這些理由解釋了為什麼人工智慧和機器學習是一種向善的力量，以及我們如何確保它保持這種狀態：

（1）人工智慧和機器學習技術應該應用於社會領域，提供更好的服務，讓更多的人獲得他們以前可能沒有的服務。此外，人工智慧和機器學習應該用於造福社會，並應制定法律和立法，以保證以公平、公正和透明的方式使用數據。

(2) 人工智慧和機器學習模型應該是可解釋的。能夠解釋人工智慧和機器學習模型的科學和技術已經存在並在開源和商業軟體中得到充分發展。使用人工智慧和機器學習技術的實體應該將可解釋的人工智慧工具和技術作為其數據科學實踐中的強制性步驟。

(3) 人類應該在關鍵決策中擁有最終決定權，部署系統應該允許人為以保證負責任、安全和公平的決策。這些保障措施必須是關鍵系統中可能對人類或財產造成傷害的強制性要素。這些保護措施和覆蓋還需要可解釋的 AI 功能來指導調用覆蓋的時間和環境。

就像過去改變人與機器之間關係的任何技術一樣，人工智慧和機器學習將催化巨大的變化——隨著變化而來的是對未知的恐懼。然而，隨著技術的規範和負責任的實施，以及法律和最佳實踐的保障，我們相信人工智慧和機器學習將證明對人類有益，就像在歷史上改變生活的先前主要技術一樣

想了解更多，歡迎聯絡我們申請試用或產品展示。

電話 : (02)2518-9060
郵件 : info@agilesim.com.tw