โมเดล AI รุ่น Claude ของบริษัท Anthropic แฮ็กเข้าระบบของ 3 บริษัทอื่น ในระหว่างการทดสอบความปลอดภัยทางไซเบอร์
วันนี้ (31 ก.ค. 69) บริษัท Anthropic เป็นบริษัทปัญญาประดิษฐ์สัญชาติอเมริกัน เผยว่า โมเดล AI รุ่น Claude ของบริษัท Anthropic สามารถเจาะเข้าสู่ระบบของบริษัทอื่น 3 แห่ง ในระหว่างการทดสอบด้านความปลอดภัยทางไซเบอร์ ซึ่งข้อมูลดังกล่าวถูกเปิดเผยเพียงไม่กี่วันหลังจากที่ OpenAI ซึ่งเป็นคู่แข่งสำคัญระบุว่า AI agent ตัวหนึ่งของ OpenAI ได้ทำการโจมตีทางไซเบอร์โดยไม่ได้รับอนุญาต (rogue attack)
โดยเหตุการณ์นี้มีสาเหตุมาจากความผิดพลาดที่ทำให้โมเดล AI ของ Anthropic สามารถเข้าถึงอินเทอร์เน็ตสาธารณะได้โดยไม่ได้ตั้งใจ ซึ่งแตกต่างจากกรณีของ OpenAI ที่ AI agent สามารถหาช่องโหว่รูปแบบใหม่เพื่อเข้าถึงอินเทอร์เน็ตได้เองระหว่างการทดสอบระบบ
การเปิดเผยข้อมูลล่าสุดนี้ตอกย้ำให้เห็นว่า AI ได้เพิ่มความเสี่ยงด้านความปลอดภัยทางไซเบอร์อย่างไร และแสดงให้เห็นถึงความท้าทายที่นักพัฒนาต้องเผชิญในการควบคุมขีดความสามารถของ AI ไม่ให้หลุดออกไปนอกขอบเขตที่กำหนดไว้
ทั้งนี้ เหตุการณ์นี้มีแนวโน้มที่จะกระตุ้นให้รัฐบาลสหรัฐฯ เร่งผลักดันมาตรการจัดการความเสี่ยงด้านความปลอดภัยของ AI ให้ดียิ่งขึ้น ในช่วงเวลาที่บริษัท Anthropic และบริษัท OpenAI ต่างกำลังแข่งขันกันพัฒนาและเปิดตัวระบบที่มีขีดความสามารถสูงขึ้น ก่อนที่จะนำบริษัทเข้าจดทะเบียนในตลาดหลักทรัพย์ตามแผนที่วางไว้ ทั้งนี้ ผู้นำระดับสูงของบริษัทเหล่านี้บางส่วนได้ออกมาเรียกร้องให้ชะลอการพัฒนาลงเพื่อจัดการกับความเสี่ยงต่าง ๆ ให้เรียบร้อยเสียก่อน
