在生成式 AI 社交賽道，初創公司 CHAI 正在交出一份驚人的成績單。該公司在過去三年中保持了每年 3 倍的爆發式增長，目前年度經常性收入（ARR）已攀升至 6800 萬美元，公司估值正式突破 14 億美元大關。
隨著用戶規模的極速擴張，CHAI 意識到開發者不僅要追求增長速度，更需承擔起 AI 安全責任。該公司近期對其安全框架進行了重大升級，重點針對自殺預防和自殘干預部署了實時監控系統。該系統參照了《歐盟 AI 法案》和 NIST 風險管理框架的嚴格要求，并引入了國際自殺預防協會（IASP）的專業指南。
為了防止 AI 產生潛在風險內容，CHAI 研發了一款先進的實時“分類器”，能夠自動掃描活躍對話。一旦檢測到用戶表現出心理困境或自殘傾向，AI 將不再僅僅作為聊天伙伴，而是化身為“數字生命線”，通過預設的同理心話術引導用戶尋求專業醫療機構或親友的幫助。
在數據隱私方面，AIbase 了解到 CHAI 采用了類似醫療級 HIPAA 標準的隱私協議。所有對話記錄均存儲在加密服務器中，且內部審計流程嚴格執行去標識化處理。CHAI 表示，作為高速發展的獨角獸企業，這些舉措旨在為 AI 行業樹立“安全至上”的先例，確保技術在擴展的同時始終符合人類道德價值。
