แฮกเกอร์แสบ! หลอกแชทบอท AI ของ Meta ให้ยึดบัญชี Instagram สำเร็จ

สรุปใจความสำคัญ 

• แฮกเกอร์หลอกให้แชทบอทซัพพอร์ต AI ของ Meta เพิ่มอีเมลของพวกเขาเข้าไปในบัญชี Instagram ของเหยื่อ แล้วรีเซ็ตรหัสผ่าน โดยไม่จำเป็นต้องเข้าถึงอีเมลของเหยื่อเลย

• แฮกเกอร์ยึดบัญชี Instagram ในช่วงสุดสัปดาห์ที่ผ่านมา ด้วยการหลอกล่อแชทบอทซัพพอร์ตที่ขับเคลื่อนด้วย AI ของ Meta ให้มอบสิทธิ์การเข้าถึง โดยการโจมตีนี้ไม่ต้องใช้การเข้าถึงอีเมลจริงของเหยื่อ ไม่ต้องใช้ลิงก์ฟิชชิง และไม่มีการใช้มัลแวร์ใดๆ แฮกเกอร์เพียงแค่ขอให้แชทบอทเพิ่มอีเมลใหม่เข้าไปในบัญชีของคนอื่นเท่านั้น

วิดีโอที่โพสต์บนแพลตฟอร์ม X ได้แสดงกระบวนการนี้แบบทีละขั้นตอน แฮกเกอร์ใช้ VPN เพื่อปลอมแปลงตำแหน่งที่ตั้งให้อยู่ในจุดที่คาดว่าเป็นของเป้าหมาย เพื่อหลบเลี่ยงระบบป้องกันบัญชีอัตโนมัติของ Instagram จากนั้นพวกเขาก็เปิดแชทกับ Meta AI Support Assistant และขอให้บอทเพิ่มอีเมลใหม่เข้าไปในบัญชีของเป้าหมาย

แชทบอทได้ส่งรหัสยืนยันไปยังอีเมลของแฮกเกอร์ จากนั้นแฮกเกอร์ก็ส่งรหัส นั้นกลับไปให้แชทบอท บอทจึงแสดงปุ่ม “รีเซ็ตรหัสผ่าน” (Reset Password) ขึ้นมา แฮกเกอร์จึงกรอกรหัสผ่านใหม่และยึดครองบัญชีไปได้สำเร็จ

เจาะลึกรายละเอียด

ไม่มีขั้นตอนใดเลยที่แฮกเกอร์จำเป็นต้องเข้าถึงกล่องข้อความอีเมลที่ถูกต้องซึ่งผูกไว้กับบัญชี Instagram ของเหยื่อ ทาง TechCrunch ได้ตรวจสอบแล้วว่า กล่องข้อความอีเมลสาธารณะของแฮกเกอร์ที่ปรากฏในวิดีโอนั้นได้รับรหัสยืนยันจริง การโจมตีนี้ใช้ประโยชน์จากข้อบกพร่องขั้นร้ายแรง นั่นคือ แชทบอท AI ปฏิบัติต่อคนที่มันกำลังคุยด้วยราวกับว่าเป็นเจ้าของบัญชี โดยไม่มีการตรวจสอบตัวตนเลย

บัญชีที่ถูกแฮกนั้นรวมถึงบัญชี Instagram ของทำเนียบขาวยุคโอบามา ซึ่งไม่มีความเคลื่อนไหวมาตั้งแต่ปี 2017 และบัญชีของ Chief Master Sergeant John Bentivegna ซึ่งเป็นผู้บังคับบัญชาระดับสูงของกองทัพอวกาศสหรัฐฯ ด้าน Jane Wong นักวิจัยด้านความปลอดภัยไซเบอร์ ก็ระบุว่าบัญชีของเธอถูกยึดไปด้วยเช่นกัน

“รหัสผ่านถูกเปลี่ยนโดยที่ฉันไม่รู้เรื่องเลย และฉันก็ได้รับข้อความพยายามรีเซ็ตรหัสผ่านหลายครั้งตลอดทั้งเมื่อวานนี้” Wong กล่าว “น่ากังวลมากทีเดียว” นอกจากนี้ยังมีผู้ใช้หลายคนบน Reddit และ X รายการว่าเกิดการถูกยึดบัญชีในลักษณะเดียวกันนี้ในช่วงสุดสัปดาห์ที่ผ่านมา

Andy Stone โฆษกของ Instagram กล่าวเมื่อวันจันทร์ว่า ปัญหานี้ได้รับการแก้ไขแล้ว อย่างไรก็ตาม ยังไม่เป็นที่แน่ชัดว่ามีบัญชีถูกแฮกไปเป็นจำนวนเท่าใด และทาง Meta ก็ไม่ได้ตอบกลับคำขอความคิดเห็นจาก TechCrunch

บทวิเคราะห์และความเสี่ยงของ AI

การโจมตีครั้งนี้เป็นตัวอย่างที่ชัดเจนว่า เหตุใดการนำแชทบอท AI ไปใช้งานโดยให้สิทธิ์การจัดการในระดับบัญชี (Account-level permissions) ถึงเป็นเรื่องอันตราย นี่คือเหตุผลที่ลูกค้าของ Agentforce ของ Salesforce ยังคงลังเลที่จะปล่อยให้เอเจนต์ AI ดำเนินการธุรกรรมที่มีความสำคัญทางการเงิน เนื่องจากความเสี่ยงในลักษณะนี้ โดยนักวิเคราะห์ Rebecca Wettemann ได้อธิบายถึงความกลัวนี้ไว้ว่าเป็นเหมือน “การที่ AI แอบหนีไปกลางดึกแล้วกดยกเลิกและคืนเงินธุรกรรมต่างๆ เป็นจำนวนมาก” สิ่งที่เกิดขึ้นคือ Meta ได้ให้สิทธิ์ AI ในการรีเซ็ตรหัสผ่าน และ AI ก็ทำตามหน้าที่ที่ได้รับมอบหมายอย่างเป๊ะๆ เพียงแต่ทำให้กับผิดคน

ภูมิทัศน์ความปลอดภัยของ AI Agent กำลังสร้างช่องโหว่ประเภทใหม่ๆ ขึ้นมาเร็วกว่าที่บริษัทต่างๆ จะรับมือได้ทัน เช่น ช่องโหว่ Claw Chain ของ OpenClaw ที่ใช้สิทธิ์ใน Sandbox ของตัวเอเจนต์เองมาเป็นอาวุธ ส่วนการโจมตี Instagram ในครั้งนี้ ก็เป็นการใช้สิทธิ์ในการจัดการบัญชีของบอทซัพพอร์ต AI มาเป็นอาวุธเช่นกัน สิ่งที่เป็นจุดร่วมสำคัญคือ: เมื่อเอเจนต์ AI มีอำนาจในการดำเนินการ ความปลอดภัยของระบบจะขึ้นอยู่กับว่า เอเจนต์นั้นสามารถตรวจสอบได้หรือไม่ว่าใครเป็นผู้สั่งการ

Meta AI Support Assistant ถูกออกแบบมาเพื่อลดต้นทุนในการจ้างมนุษย์เพื่อบริการลูกค้า ซึ่งมันทำสำเร็จในแง่นั้น แต่มันก็ได้สร้างช่องทางให้เกิดการโจมตี (Attack Surface) ในแบบที่พนักงานที่เป็นมนุษย์จะไม่ทำ เพราะหากเป็นพนักงานที่เป็นมนุษย์ พวกเขาจะต้องตรวจสอบตัวตนของผู้ติดต่อก่อนที่จะเพิ่มอีเมลใหม่เข้าไปในบัญชี แต่แชทบอทตัวนี้ไม่ได้ทำ

นี่ถือเป็นความล้มเหลวในการปรับใช้ AI ครั้งใหญ่เป็นครั้งที่ 3 ในรอบสัปดาห์เดียว หลังจากที่ Starbucks ต้องยกเลิกระบบตรวจนับสินค้าคงคลังด้วย AI หลังใช้งานได้ 9 เดือนเนื่องจากนับพลาดบ่อยครั้ง และการเรียกคืนรถยนต์ไร้คนขับของ Waymo จากปัญหาเรื่องน้ำท่วมก็ล้มเหลวภายในสองสัปดาห์ รูปแบบที่เกิดขึ้นนี้มีความสอดคล้องกันคือ: ระบบ AI ที่ถูกนำมาใช้งานในวงกว้าง (Deployed at scale) มักจะล้มเหลวในรูปแบบที่ผู้ออกแบบไม่ได้คาดคิดมาก่อน และความเสียหายที่เกิดขึ้นนั้นส่งผลกระทบร้ายแรงมากกว่าประสิทธิภาพที่มันถูกสร้างขึ้นมาเพื่อตอบโจทย์เสียอีก