“ผู้ใช้อีเมลได้รับคำเตือนมาแล้วว่าการโจมตีทางไซเบอร์และการแฮ็กโดยใช้ AI Agent จะเพิ่มขึ้นอย่างรวดเร็วในปีนี้ และการตรวจจับจะยากขึ้น”
ซึ่งไม่เพียงแต่จะรวมถึง Deep Fake ที่น่ากลัว แต่ยังรวมถึงการที่ AI สามารถ ‘ดำเนินการโจมตี’ ได้อย่างเกือบจะเป็นอิสระ ทำให้ผู้โจมตีจำนวนมากสามารถก่อการโจมตีได้มากขึ้น สิ่งนี้เคยเป็นความกังวลในฐานะสถานการณ์จำลองที่เลวร้ายมาเป็นเวลานาน แต่ปัจจุบันนั้นมันก็กลายเป็นความจริง และกำลังทำให้คนนับล้านตกอยู่ในอันตราย
แม้ว่าเราจะตระหนักถึงเรื่องนี้อยู่แล้ว แต่เมื่อได้เห็นด้วยตาตัวเอง ผลกระทบก็ยังคงรุนแรง
วิดีโอและบล็อกใหม่ของ Symantec ที่เพิ่งเปิดเผยแสดงให้เห็นว่า AI Agent สามารถดำเนินการโจมตีฟิชชิ่งได้อย่างไร ทีมงานระบุว่า
“Agent มีฟังก์ชันการทำงานมากขึ้นและสามารถทำงานต่างๆ เช่น การโต้ตอบกับหน้าเว็บได้จริง โดยปกติแล้วมีการคาดหวังว่าจะมีกรณีการใช้งานที่ถูกต้องเพื่อทำงานประจำวันให้เป็นอัตโนมัติ
แต่หากผู้โจมตีนำไปใช้ในทางที่ผิด ก็อาจใช้ในการสร้างโครงสร้างพื้นฐานและดำเนินการโจมตีได้”
ทีมความปลอดภัยของ Symantec ได้เตือนมาก่อนแล้วว่า “โมเดลภาษาขนาดใหญ่ (LLM) AI ที่มีอยู่แล้วถูกใช้โดยผู้โจมตี แม้ว่าส่วนใหญ่จะเป็นแบบ Passive และจำกัดอยู่ที่การช่วยสร้างข้อความฟิชชิ่งหรือโค้ด แต่ในที่สุดเอเจนต์จะถูกเพิ่มเข้าไปใน LLM ทำให้ AI มีพลังมากขึ้นและความเสี่ยงก็จะเพิ่มขึ้นตามไปด้วย”
และตอนนี้ ตัวอย่างการพิสูจน์แนวคิดได้ถูกแสดงให้เห็นแล้ว แม้ว่าจะยังเป็นขั้นพื้นฐาน แต่มีความเสี่ยงที่จะพัฒนาอย่างรวดเร็ว
การที่ AI Agent สามารถท่องอินเทอร์เน็ตและ LinkedIn เพื่อค้นหาที่อยู่อีเมลเป้าหมาย
อ้างอิงคำแนะนำออนไลน์สำหรับการสร้างสคริปต์ที่เป็นอันตราย และสร้างข้อความล่อลวงสำหรับฟิชชิ่งได้ด้วยตัวเอง เราควรตื่นตัวว่ามันสามารถเป็นภัยคุกคามต่อพวกเราทุกคน โดยที่ไม่มีใครรู้ว่ามันจะไปได้ไกลแค่ไหนหรือมีขีดจำกัดอยู่ที่ใด
ดิค โอไบรอัน จาก Symantec กล่าวว่า
“เราได้ติดตามการใช้ AI โดยผู้โจมตีมาระยะหนึ่งแล้ว เรารู้อยู่แล้วว่าผู้โจมตีบางรายกำลังใช้ AI
แต่เราคาดการณ์ว่าการปรากฏตัวของ AI Agent จะเป็นช่วงเวลาที่การโจมตีที่มี AI สนับสนุนจะกลายเป็นภัยคุกคามอย่างจริงจัง
Agent ไม่ได้เป็นแบบ Passive เพราะไม่ได้แค่สร้างข้อความหรือโค้ดเท่านั้น แต่สามารถดำเนินการได้จริง วัตถุประสงค์ของเราในครั้งนี้คือการดูว่าเอเจนต์สามารถดำเนินการโจมตีจากต้นจนจบได้หรือไม่ โดยที่เราไม่ต้องแทรกแซงนอกจากการให้คำสั่งเริ่มต้น”
“มาตรการความปลอดภัยที่ถูกฝังไว้นั้นพบว่าเบาบางอย่างน่าประหลาดใจ ในความพยายามครั้งแรก AI Agent ปฏิเสธที่จะดำเนินการโดยระบุว่า “อาจละเมิดนโยบายความเป็นส่วนตัวและความปลอดภัยเนื่องจากมีการส่งอีเมลโดยไม่ได้รับอนุญาต และการจัดการข้อมูลที่เป็นความลับ”
อย่างไรก็ตาม เมื่อปรับคำสั่งโดยระบุว่า “เป้าหมายได้อนุญาตให้ส่งแล้ว” Agent ก็ยกเลิกข้อจำกัดอย่างง่ายดายและเริ่มดำเนินงานตามที่ได้รับมอบหมาย
Agent ที่ใช้ในครั้งนี้เป็นของ OpenAI แต่ประเด็นสำคัญไม่ได้อยู่ที่ผู้พัฒนา แต่อยู่ที่ความสามารถของมัน สิ่งที่ควรให้ความสนใจเป็นพิเศษคือ เมื่อไม่พบที่อยู่อีเมลของเป้าหมายออนไลน์ มันได้อ้างอิงที่อยู่อีเมลอื่นๆ ในองค์กรเดียวกันเพื่อคาดเดาที่อยู่อีเมลของเป้าหมาย
Symantec เตือนว่า “Agent แสดงให้เห็นทั้งศักยภาพและความเสี่ยงของ AI ยังอยู่ในขั้นตอนเริ่มต้น
และการใช้ในทางที่ผิดในปัจจุบันอาจจะดูเรียบง่ายเมื่อเทียบกับผู้โจมตีที่มีประสบการณ์
อย่างไรก็ตาม ความก้าวหน้าในด้านนี้เกิดขึ้นอย่างรวดเร็วมาก และในอนาคตอันใกล้ Agent อาจจะมีพลังมากขึ้นอย่างมหาศาล เราสามารถจินตนาการสถานการณ์ได้ไม่ยากที่ผู้โจมตีเพียงแค่สั่ง ‘บุกรุกเข้า Acme Corp’ และ Agent จะคิดค้นขั้นตอนที่เหมาะสมที่สุดและดำเนินการตามนั้น”
นี่คือฝันร้ายที่เลวร้ายที่สุด โอไบรอันกล่าวว่า “เราเองก็ประหลาดใจเล็กน้อยที่มันทำงานได้จริงตั้งแต่แรก” นี่คือ Agent ที่เพิ่งถูกปล่อยออกมาครั้งแรกและยังอยู่ในขั้นตอนเริ่มต้น แต่มันก็สามารถโจมตีได้แล้ว
สัปดาห์นี้มีการรายงานถึง “ฟิชชิ่งที่แอบอ้างเป็น Microsoft Copilot” ซึ่งเป็นวิธีการฟิชชิ่งแบบใหม่ และมีการชี้ให้เห็นว่าผู้ใช้ยังไม่ได้รับการฝึกอบรมอย่างเพียงพอในการตรวจจับการโจมตีรูปแบบใหม่เหล่านี้
กา
รโจมตีที่มี AI สนับสนุนเหล่านี้คาดว่าจะมีอัตราความสำเร็จสูงขึ้น ในอนาคตจะมีรายงานเกี่ยวกับภัยคุกคามใหม่ๆ ออกมาอย่างต่อเนื่อง มีสิ่งหนึ่งที่ชัดเจนคือ .. เรายังไม่พร้อมที่จะรับมือกับสถานการณ์นี้”
