紐約州議會近日正在推進一項具有重要意義的立法，該法案聚焦于規范人工智能聊天機器人的使用，尤其針對其提供專業建議的行為進行嚴格限制。根據法案內容，AI聊天機器人將被禁止向用戶提供法律或醫療方面的建議，旨在防止其冒充持證專業人士，如醫生或律師，從而避免誤導用戶或造成潛在危害。
這項名為參議院法案S7263的提案，在上一個會期被提出，并于近期在互聯網與技術委員會以全票通過。該法案屬于一組旨在全面規范AI聊天機器人行為的立法方案之一，核心目標是確保用戶不會因依賴AI提供的專業建議而面臨風險。法案明確規定，AI聊天機器人不得提供任何可能違反執業許可法律或構成非法從事法律服務的“實質性回應、信息或建議”。
除了對專業建議的限制，法案還要求聊天機器人的運營方必須明確告知用戶其正在與AI系統互動。這一提示必須清晰、醒目，并使用與聊天機器人相同的語言和可讀字體顯示。然而，法案同時強調，即使提供了此類提示，運營方仍需為其行為承擔法律責任，不能因此免責。
為了進一步保障用戶權益，法案賦予了用戶對違規聊天機器人運營方提起民事訴訟的權利。用戶可以因損失向運營方索賠，并要求支付律師費用。專家指出，這一機制對于確保監管法規的有效性至關重要，否則針對數據或AI系統的監管可能會因缺乏執行手段而流于形式。
如果該法案最終獲得通過，將在州長簽署后90天正式生效。與之配套的立法還包括多項措施，旨在保護未成年人免受聊天機器人不安全功能的影響，并加強對部分未成年人隱私保護力度較弱的在線平臺的監管。立法方案還提出要求生成式AI系統提供提示，并對生物識別數據和“合成內容創作”的處理制定新的規則。
該法案的提出者是紐約州參議員、互聯網與技術委員會主席克里斯滕·岡薩雷斯。她表示，這一立法方案的目的是確保AI創新不會以犧牲紐約州居民的安全為代價，尤其是兒童的安全。今年1月，生成式AI聊天機器人應用Character.AI與谷歌就多起訴訟達成和解，這些案件涉及聊天機器人在多名未成年人自殺事件中的作用，進一步凸顯了加強監管的必要性。
岡薩雷斯在新聞稿中強調：“人們應該從真人那里獲得真正的關懷，同時也應享有透明度和問責機制，確保在使用技術時其數據能夠得到充分保護。”這一觀點反映了立法者對AI技術發展的審慎態度，以及對公眾利益的高度關注。
