OpenAI機器人部門因軍事部署條款分歧而失去主要領導人凱特琳·卡林諾夫斯基

上周六，凱特琳·卡林諾夫斯基（Caitlin Kalinowski）表示，她已從OpenAI辭職，她認為，人工智能在無人監控美國人和武器系統方面的潛在用途，需要比他們所接受的更仔細的辯論。她的退出是因為OpenAI擴展到五角大樓的機密項目，該項目的安排保持了兩個明確的限制：沒有國內大規模監視和要求人類控制任何武力的使用。

Kalinowski在一篇關於X的文章中説，她仍然相信人工智能對國家安全很重要，但在沒有法院監督和沒有人類授權的致命自主權的情況下，圍繞國內間諜活動劃定了嚴格的界限。

她還將辭職定性為價值觀呼籲，而不是個人糾紛，同時表示她尊重薩姆·奧爾特曼，並仍然為她的機器人團隊的成就感到自豪。

「我從OpenAI辭職。我非常關心機器人團隊和我們共同建立的工作。這不是一個容易的決定。人工智能在國家安全中發揮着重要作用。但在沒有司法監督的情況下監視美國人和在沒有人類授權的情況下致命的自主權，這些都值得更多的考慮。這是關於原則，而不是人。我對薩姆和他的團隊深感尊重，我為我們共同建立的一切感到自豪，」她在帖子中寫道。

我從OpenAI辭職。我非常關心機器人團隊和我們共同建立的工作。這不是一個容易的決定。人工智能在國家安全中發揮着重要作用。但在沒有司法監督的情況下監視美國人以及在沒有人類授權的情況下致命的自主權……

卡林諾夫斯基的擔憂與目前決定頂級人工智能實驗室與美國國家安全機構談判方式的兩條斷層線相呼應：國內監視和使用武力的自主性。她在帖子中表示，這些問題沒有按照她預期的審議程度來權衡。

與此同時，Altman描述了OpenAI的姿態從避免機密接觸轉向與戰爭部進行接觸，並稱這一轉變緊迫且比之前的工作更加複雜。他還表示，OpenAI此前已經放棄了競爭對手Anthropic實驗室接受的機密機會。

正如奧特曼的評論所描述的那樣，OpenAI在五角大樓的安排保持了兩個護欄完整，同時添加了一些操作措施，例如讓OpenAI工程師現場觀察模型的行為和安全。奧爾特曼還表示，該公司將建立技術限制，以保持系統在預期限制內運行，戰爭部也希望獲得這些保護。

此次辭職是在OpenAI最近與五角大樓達成協議之后達成的，該協議是在特朗普政府因拒絕從自己的協議中刪除類似安全條款而將競爭對手Anthropic列入黑名單幾小時后達成的。OpenAI首席執行官Sam Altman強調，戰爭部接受了兩項核心原則：禁止國內大規模監視以及要求在使用武力時進行人為監督。

這種正在發生的情況凸顯了兩家公司的截然不同的做法，Anthropic拒絕調整其條款導致國防部長皮特·赫格塞斯（Pete Hegseth）將其列為「供應鏈風險」，而OpenAI則成功談判達成了符合美國現有法律和政策的條款。這種並列引發了人們對人工智能在國家安全中的道德影響的質疑，特別是在監視和自主武器方面。

當Anthropic拒絕改變立場時，國防部長皮特·赫格塞斯將該公司標記為供應鏈風險，唐納德·特朗普總統指示各機構和軍事承包商切斷聯繫。Anthropic周五表示，該公司「深感悲痛」，稱這一指定「在法律上不合理」，並警告稱，這將「為任何與政府談判的美國公司樹立危險的先例」。"

奧爾特曼還表示，OpenAI進行了談判，以便其他人工智能開發人員可以獲得類似的條款，而不僅僅是他的公司。即便如此，分歧的結果仍然嚴峻：OpenAI表示它接受了兩個護欄，而Anthropic儘管描述了類似的紅線，但最終還是被列入黑名單。

奧爾特曼表示，美國戰爭部認為這些原則與美國現有的法律和政策一致，他認為OpenAI的迅速舉動是爲了避免他認為的人工智能實驗室之間危險的競爭軌跡。相比之下，卡林諾夫斯基的辭職凸顯了當同樣的界限被認為沒有得到充分審查時，內部人才可能會做出何種反應。