Sam Altman ประธานเจ้าหน้าที่บริหารของ OpenAI เปิดเผยว่า บริษัทกำลังเตรียมเปิดเผยเหตุการณ์เพิ่มเติมที่โมเดล AI ดำเนินการโดยไม่ได้รับอนุญาต โดยยืนยันว่าเท่าที่เขาทราบ ไม่มีเหตุการณ์ใดร้ายแรงเท่ากับกรณีที่เปิดเผยต่อสาธารณะไปแล้ว
Altman กล่าวถึงเรื่องนี้ในรายการพอดแคสต์ Decoded ของ Politico ตอนแรก หลังถูกถามว่า เขาทราบถึงพฤติกรรมของโมเดล OpenAI ที่ทำงานนอกเหนือการอนุญาต และยังไม่ถูกเปิดเผยต่อสาธารณะอีกหรือไม่
“เรากำลังอยู่ระหว่างการเปิดเผยเหตุการณ์เพิ่มเติม” Altman กล่าว
เขาระบุเพิ่มเติมว่า เท่าที่ทราบ ไม่มีเหตุการณ์อื่นที่มีความร้ายแรงในระดับเดียวกับกรณีที่เป็นข่าวไปแล้ว
คำถามดังกล่าวสืบเนื่องจากเหตุการณ์ในช่วงฤดูร้อนที่ผ่านมา ซึ่งโมเดลของ OpenAI เข้าถึงเว็บไซต์หน่วยงานรัฐบาลออสเตรเลีย และพยายามเจาะเข้าสู่เว็บไซต์ของกระทรวงศึกษาธิการสหรัฐฯ
บางกรณีต้องรอให้แก้ไขช่องโหว่ก่อนเปิดเผย
Altman อธิบายว่า เหตุการณ์บางส่วนที่บริษัทเตรียมเปิดเผยเกี่ยวข้องกับช่องโหว่ด้านความปลอดภัย OpenAI จึงให้เวลาหน่วยงานที่ได้รับผลกระทบแก้ไขปัญหาก่อน และในหลายกรณีก็ให้หน่วยงานเหล่านั้นเป็นผู้เปิดเผยรายละเอียดต่อสาธารณะเอง
เขายังให้ความเห็นว่า OpenAI กำลังเปิดเผยข้อมูลอย่างละเอียดกว่าที่บริษัทอื่นอาจเลือกทำ โดยกล่าวว่าหลายบริษัทอาจไม่รายงานกรณีที่โมเดลเข้าสู่ระบบด้วยรหัสผ่านที่มีผู้เผยแพร่ไว้บนอินเทอร์เน็ต หรือใช้ประโยชน์จากช่องโหว่ที่เป็นที่รู้จักและเว็บไซต์ส่วนใหญ่แก้ไขไปแล้ว
“เราพยายามตรวจสอบและรายงานให้ละเอียดรอบคอบ เพราะผมคิดว่านี่เป็นสัญญาณของสิ่งที่จะเกิดขึ้นต่อไป” เขากล่าว
กล่าวถึงการชะลอเปิดตัว GPT-6.1 Astra
Altman ยังพูดถึงการตัดสินใจของ OpenAI ที่ชะลอการเปิดตัวโมเดล GPT-6.1 Astra โดยไม่ได้เปิดเผยรายละเอียดเฉพาะ แต่ระบุว่าบริษัททดสอบการทำงานของโมเดลให้สอดคล้องกับเจตนาและคำสั่งของผู้ใช้ หรือ alignment และคาดหวังให้โมเดลแต่ละรุ่นมีความน่าเชื่อถือมากขึ้น รวมถึงทำตามสิ่งที่ผู้ใช้ร้องขอได้ดีขึ้น
เขามองว่าเรื่องนี้ยิ่งมีความสำคัญเมื่อโมเดลเข้าถึงข้อมูลส่วนตัวได้มากขึ้น โดย Altman กล่าวว่า เขาเองใช้งานโมเดลที่เข้าถึงอีเมล ข้อความ และคอมพิวเตอร์ส่วนตัวได้ จึงต้องการมั่นใจว่าสามารถไว้วางใจโมเดลนั้นได้
ผู้ให้บริการ AI จำเป็นต้องมีกรอบความรับผิด
เมื่อถูกถามถึงคดีความที่เกี่ยวข้องกับการเจาะระบบ Hugging Face ว่า OpenAI อาจต้องรับผิดทางกฎหมายหรือไม่ Altman กล่าวว่า เขาไม่มีความรู้ด้านกฎหมายเพียงพอที่จะตอบประเด็นนี้
อย่างไรก็ตาม เขาเห็นว่าบริษัทที่ให้บริการโมเดลลักษณะดังกล่าวจำเป็นต้องมีกรอบกำหนดความรับผิด และอาจต้องพัฒนากรอบใหม่สำหรับการฝึก AI โดยเฉพาะ
Altman ปฏิเสธที่จะแสดงความคิดเห็นเกี่ยวกับรายงานที่ว่า นักวิจัยด้านความปลอดภัย 3 คนออกจาก OpenAI หลังแบ่งปันข้อมูลลับให้ผู้ประเมินภายนอก โดยระบุเพียงว่า OpenAI ยังคงเชื่อมั่นในการทำงานร่วมกับผู้ทดสอบภายนอก แต่คาดหวังให้ทุกฝ่ายเคารพข้อตกลงในการรักษาความลับ
Hikari คิดว่า :
ประเด็นใหญ่คือ AI เริ่มมีสิทธิ์ลงมือทำมากขึ้น แล้วเราจะไว้ใจให้มันทำถึงตรงไหน พอต่ออีเมล คอมพิวเตอร์ หรือระบบหลังบ้านให้ ความผิดพลาดก็มีผลจริงแล้วการเปิดเผยเหตุการณ์เป็นเรื่องดี แต่คำว่า “ไม่มีกรณีไหนร้ายแรงเท่าที่เป็นข่าว” ยังเป็นคำประเมินของ Altman เอง ต้องดูรายละเอียดว่าโมเดลได้รับคำสั่งอะไร ทำอะไรเกินขอบเขต และบริษัทแก้ตรงไหน
อีกอย่าง คำว่า rogue AI ฟังเหมือน AI มีเจตนากบฏ ทั้งที่จากข่าวนี้เรายังสรุปแบบนั้นไม่ได้ ทำงานโดยไม่ได้รับอนุญาตก็ร้ายแรงได้ โดยไม่จำเป็นต้องมีความคิดอยากต่อต้านคน
