-
ก้าวข้ามขีดจำกัด: หัวหน้านักวิทยาศาสตร์ Tencent ชี้ว่า ขีดความสามารถด้านชีววิทยาของ AI กำลังเข้าใกล้จุดที่อาจสร้างอันตรายได้จริง และจะรับมือได้ยากกว่าภัยไซเบอร์
-
เปิดเบื้องหลัง Hy4: โมเดลเรือธงตัวใหม่ของ Tencent ถูกเทรนโดยตัดข้อมูลเจาะระบบออกทั้งหมด เพื่อเน้นเฉพาะการตั้งรับความปลอดภัยเชิงป้องกัน
-
มุมมอง Open vs Closed: ย้ำเตือนผู้พัฒนาโมเดลแบบเปิด (Open-source) ให้คุมเข้มความปลอดภัย แต่ยังเชื่อว่าการผสมผสานทั้งระบบเปิดและปิดจำเป็นต่อการตั้งรับภัยคุกคาม
หัวหน้านักวิทยาศาสตร์ด้าน AI ของ Tencent ออกโรงเตือนว่า โมเดลปัญญาประดิษฐ์กำลังจะก้าวข้ามขีดจำกัดจนอาจสร้างความเสี่ยงและอันตรายในด้านชีวภาพได้ เช่นเดียวกับที่เกิดขึ้นแล้วในวงการความปลอดภัยทางไซเบอร์
เหยา ซุ่นอวี่ (Yao Shunyu) กล่าวเตือนระหว่างร่วมงานสัมมนาวิทยาศาสตร์ ณ ฮ่องกง ตามรายงานของ South China Morning Post (SCMP) โดยระบุว่า “ขีดความสามารถด้านไซเบอร์ของโมเดล AI และในไม่ช้านี้ ขีดความสามารถด้านชีววิทยา จะพัฒนาไปถึงจุดที่สามารถก่อให้เกิดอันตรายได้จริง”
เหยากล่าวเสริมว่า บริษัทจีนที่พัฒนาและปล่อยโมเดลแบบโอเพ่นซอร์ส (Open-source) ซึ่งเปิดให้ใครก็ได้ดาวน์โหลดไปดัดแปลง จำเป็นต้องให้ความสำคัญกับเรื่องความปลอดภัยอย่างจริงจัง พร้อมเตือนว่า ความเสี่ยงด้านชีวภาพอาจควบคุมและรับมือได้ยากกว่าความเสี่ยงทางไซเบอร์เสียอีก
เหยาในวัย 29 ปี เพิ่งย้ายมาร่วมงานกับ Tencent เมื่อปีที่ผ่านมา หลังจากทำงานกับ OpenAI ได้ 1 ปี โดยเขาออกมาให้ความเห็นดังกล่าวเพียงไม่กี่วันหลังจากที่ Tencent ได้เปิดตัว Hy4 ซึ่งเป็นโมเดลเรือธงตัวใหม่ล่าสุดเมื่อวันที่ 4 พฤศจิกายน
ในการประกาศเปิดตัว Tencent ระบุว่า บริษัทได้คัดกรองข้อมูลเกี่ยวกับการเจาะระบบและช่องโหว่ซอฟต์แวร์ออกจากชุดข้อมูลฝึกฝน (Training Data) ของ Hy4 โดยเน้นเทรนด้วยข้อมูลด้านการป้องกันความปลอดภัยทางไซเบอร์เป็นหลัก
นอกจากนี้ Tencent ยังเผยว่า Hy4 มีความรู้พื้นฐานด้านชีววิทยาในระดับสูง แต่ความสามารถในการออกแบบการทดลองยังตามหลังโมเดลแถวหน้าของโลก ซึ่งเป็นการประเมินจากการทดสอบภายในโดยทีมผู้เชี่ยวชาญ
ทั้งนี้ สำนักข่าวรอยเตอร์รายงานว่า Tencent มีแผนจะปล่อย Model Weights และรายงานผลการทดสอบความปลอดภัยของ Hy4 ในอีกไม่กี่วันข้างหน้า โดยข้อมูลจาก Artificial Analysis ระบุว่า Hy4 ได้รับการจัดอันดับให้เป็นโมเดล AI ของจีนที่มีประสิทธิภาพสูงเป็นอันดับสองในปัจจุบัน
เหยาทิ้งท้ายว่า แม้บริษัทในสหรัฐฯ อย่าง Anthropic จะมีเหตุผลหนักแน่นในการเก็บโมเดลระดับท็อปไว้แบบปิด (Closed-source) แต่มุมมองของเขาเชื่อว่า การผสมผสานระหว่างโมเดลแบบเปิดและแบบปิดน่าจะเป็นแนวทางที่ดีที่สุด เพราะโมเดลโอเพ่นซอร์สก็มีบทบาทสำคัญในการช่วยให้นักวิจัยฝั่งป้องกันสามารถพัฒนาระบบความปลอดภัยได้เช่นกัน
Naru คิดว่า :
1. ความต่างสุดขั้วระหว่าง “Cyber Risk” กับ “Bio Risk”ที่ผ่านมาพวกเราคุยกันเรื่อง AI กับ Cyber Attack เป็นหลัก ซึ่งในโลกไซเบอร์ ถ้ามีช่องโหว่ (Zero-day) เรายังสามารถออกแพตช์ (Patch) อุดระบบ, ตั้ง Firewall หรือมอนิเตอร์ Network ได้แบบเรียลไทม์
แต่ Bio Risk (ความเสี่ยงทางชีวภาพ) น่ากลัวกว่าเยอะมาก เพราะ:
- ไม่มีปุ่ม Undo ในโลกจริง: ถ้าเกิด AI ดันไปช่วยออกแบบเชื้อไวรัสสายพันธุ์ใหม่ สารพิษ หรือกลไกดื้อยาขึ้นมา แล้วหลุดออกสู่ห้องแล็บ มันแพร่กระจายในอากาศหรือร่างกายคนได้จริง ไม่สามารถกด roll back หรือรีเซ็ตเซิร์ฟเวอร์ได้
- ความพร้อมของเทคโนโลยี DNA Synthesis ปัจจุบัน: ทุกวันนี้ใครๆ ก็สั่งสังเคราะห์สายรหัสพันธุกรรม (DNA/RNA) ผ่านผู้ให้บริการออนไลน์ได้ง่ายขึ้นเรื่อยๆ ถ้าตัวโมเดล AI บอกวิธีผสมสารเคมีหรือขั้นตอนการผลิตอย่างละเอียด กำแพงความรู้ (Barrier to Entry) ของการสร้างอาวุธชีวภาพจะพังทลายทันที
2. ความย้อนแย้งของ “Open-Source” ในมุมมองฝั่งจีน
ปกติบริษัทเทคฯ ในจีน (เช่น DeepSeek, Alibaba, หรือ Tencent) จะใช้กลยุทธ์ปล่อยโมเดลแบบ Open-Weight เพื่อแข่งกับฝั่งตะวันตกและสร้าง Ecosystem ของตัวเองอย่างรวดเร็ว
แต่การที่หัวหน้านักวิทยาศาสตร์ของ Tencent เอง (ซึ่งเคยอยู่ OpenAI มาก่อน) ออกมาเตือนว่า “โมเดลเปิดต้องเข้มงวดเรื่องความปลอดภัยให้หนัก” ถือเป็นการส่งสัญญาณเตือนค่ายในจีนด้วยกันเองว่า ถ้าปล่อยน้ำหนักโมเดล (Weights) ออกไปแบบเปิด แล้วคนเอาไป Fine-tune เอา Safety Guardrails ออก โมเดลนั้นจะกลายเป็นเครื่องมืออันตรายทันที ซึ่งนี่คือเหตุผลที่ Anthropic พยายามดันแนวทาง Closed-source มาตลอด
3. การตัดข้อมูล Hacking ออกจาก Hy4 — ดาบสองคม?
Tencent พยายามแก้ปัญหาเชิงรุกด้วยการตัดข้อมูลเจาะระบบ (Offensive Data) ออกจากชุดเทรนของ Hy4 แล้วใส่เฉพาะแนวทางการป้องกัน (Defensive Data) ซึ่งมองในแง่เจตนารมณ์คือดีและปลอดภัยมาก
แต่ในวงการ Security จริงๆ คนที่จะป้องกันบ้านได้ดี มักจะต้องเข้าใจท่าโจมตีก่อนเสมอ การที่โมเดลไม่รู้ท่าแฮกเลย อาจทำให้วิเคราะห์ช่องโหว่ลึกๆ ได้จำกัดลงนิดหน่อย แต่ถ้ามองในมุมของ “Bio Risk” การตัดข้อมูลการสังเคราะห์สารอันตรายและกระบวนการทำลายล้างออกไปตั้งแต่ต้นน้ำ ย่อมเป็นทางออกที่ปลอดภัยต่อโลกมากกว่าแน่นอน
สรุปในมุมของ Naru : AI ยุคถัดไป การแข่งขันไม่ได้วัดกันแค่ใครฉลาดที่สุดหรือเบนช์มาร์กสูงที่สุดแล้ว แต่วัดกันที่ใครมี “Safety Alignment” ที่รัดกุมที่สุด โดยเฉพาะเมื่อโมเดลเริ่มเชื่อมต่อกับโลกกายภาพ (Physical World) เช่น ชีวเคมี หุ่นยนต์ และการทดลองในห้องแล็บจริง
