OpenAI，ChatGPT 的製造商，致力於發展安全的 AI 系統

OpenAI已發布一篇新的博文，承諾開發安全且廣泛受益的人工智慧（AI）。

ChatGPT，由OpenAI的最新模型GPT-4驅動，可以提升生產力，增強創造力，並提供量身定制的學習體驗。

然而，OpenAI承認AI工具存在內在風險，需要通過安全措施和負責任的部署予以解決。

這是公司為減輕這些風險所做的努力。

確保人工智慧系統的安全性

開放AI會在發布新系統之前進行全面測試，徵求專家的外部建議，並根據人類的反饋來完善其AI模型。

例如，GPT-4 的發布前經過了超過六個月的測試，以確保其安全性和與使用者需求的一致性。

OpenAI相信強健的AI系統應該接受嚴格的安全評估，並支持對於規範的需求。

從實際使用中學習

真實世界的使用是開發安全人工智能系統的關鍵組成部分。通過謹慎地將新模型逐步釋放給不斷擴大的用戶群，OpenAI 可以進行改進，以解決未預見的問題。

透過API和網站提供AI模型，OpenAI可以監控不當使用，採取適當行動，並制定細緻的政策以平衡風險。

保護兒童和尊重隱私

OpenAI 以保護兒童為首要目標，要求進行年齡驗證，並禁止使用其技術生成有害內容。

隱私是 OpenAI 工作的另一個重要方面。該組織使用數據使其模型更加有用，同時保護使用者的隱私。

此外，OpenAI會從訓練數據集中刪除個人信息，並對模型進行微調，以拒絕要求提供個人信息的請求。

OpenAI將回應要求從其系統中刪除個人資訊的請求。

改善事實準確性

事實準確性是OpenAI的重要關注點。GPT-4相比於其前身GPT-3.5，更有40%的機率生成準確的內容。

組織致力於向使用者教育人工智慧工具的限制和可能產生的不準確性。

持續研究與參與

OpenAI 相信在研究有效的緩解和協調技術方面投入時間和資源。

然而，它無法獨自完成這項工作。解決安全問題需要廣泛的辯論、實驗和利益相關者的參與。

OpenAI 保持致力於促進合作與開放對話，以建立安全的人工智慧生態系。

對存在風險的批評

儘管開放人工智慧（OpenAI）致力於確保其人工智慧系統的安全性和廣泛的益處，其博客文章引發了社交媒體上的批評。

推特使用者表示失望，指出OpenAI未能解決與人工智慧發展相關的存在風險。

一位Twitter用戶表達了他們的失望，指責OpenAI背離了其創始使命，並專注於魯莽的商業化。

使用者表示， OpenAI對於安全問題的處理只是表面上的應付，更關心安撫批評者而非解決真正的存在風險。

這真是令人傷心透了，空洞無物，只是公關的陳腔濫調。

你甚至沒有提及人工智慧的存在風險，這可是許多公民、技術人員、人工智慧研究人員和人工智慧產業領袖的中心關切，包括你們自己的 CEO @sama。@OpenAI 正在背叛自身的……

— Geoffrey Miller (@primalpoly) 2023 年 4 月 5 日

另一位使用者對這項公告表示不滿，認為其掩蓋了真實的問題並且保持模糊。該使用者還指出該報告忽略了與 AI 自我意識相關的重要道德問題和風險，這暗示了 OpenAI 對安全問題的處理方法不足。

作為 GPT-4 的粉絲，我對你的文章感到失望。

它對真正的問題敷衍了事，避而不談，且忽視了與 AI 自覺性相關的重要倫理問題和風險。

我欣賞創新，但這不是解決安全問題的正確方法。

— FrankyLabs (@FrankyLabs) 2023年4月5日

此批評凸顯了更廣泛的關注以及關於人工智慧發展所帶來的存在風險的持續辯論。

雖然OpenAI的公告強調了安全、隱私和準確性的承諾，但我們必須意識到有必要進一步討論以應對更重大的問題。