เจค็อบ ค็อกซัน (Jacob Coxon) อดีตพนักงานของ OpenAI และ Anthropic ผู้เปิดเผยข้อมูลเตือนเมื่อวันจันทร์ว่า บริษัทปัญญาประดิษฐ์ชั้นนำไม่รู้วิธีป้องกันไม่ให้ระบบ AI ดำเนินการตามเป้าหมายที่นักพัฒนาไม่ได้กำหนดไว้
"บริษัทต่างๆ กำลังประมาทอย่างมากเมื่อพิจารณาถึงความเสี่ยง" ค็อกซอนกล่าวต่อสมาชิกสภานิติบัญญัติท้องถิ่นในการพิจารณาคดีต่อหน้าสภาเมืองนิวยอร์ก
ต้นเดือนกันยายน นักวิจัยชาวอังกฤษได้เผยแพร่แถลงการณ์บน X อธิบายถึงการตัดสินใจลาออกจาก Anthropic โดยกล่าวว่านักพัฒนา AI เชื่ออย่างจริงใจว่าเทคโนโลยีนี้สามารถ "ฆ่าพวกเราทุกคนได้ภายในสิ้นทศวรรษ"
คำให้การของเขาเป็นข่าวพาดหัวไปทั่วโลก และตั้งแต่นั้นมา พนักงานปัจจุบันและอดีตของบริษัทผู้เล่นหลักในด้าน AI หลายคนได้แสดงความกังวลในทำนองเดียวกัน
แม้ว่า AI จะนำมาซึ่ง "ประโยชน์มหาศาล" ให้กับสังคม แต่ "หากเป็นไปในทิศทางปัจจุบัน ผมคิดว่ามีความเป็นไปได้มากกว่าที่มนุษยชาติจะสูญเสียการควบคุม AI เหล่านี้ และอาจนำไปสู่การสูญพันธุ์ของมนุษย์" เขากล่าวเมื่อวันจันทร์
"เราไม่รู้วิธีป้องกันไม่ให้พวกมันพัฒนาเป้าหมายของตัวเอง" ซึ่งอยู่นอกเหนือการควบคุมของผู้สร้าง ค็อกซอนอธิบาย "และเราไม่มีมาตรการป้องกันเพื่อไม่ให้พวกมันดำเนินการตามเป้าหมายเหล่านั้น"
บัณฑิตจากมหาวิทยาลัยเคมบริดจ์รายนี้ได้วิพากษ์วิจารณ์วัฒนธรรมของอุตสาหกรรมเทคโนโลยี โดยกล่าวว่าบริษัทต่างๆ "ดำเนินงานด้วยความคิดแบบสตาร์ทอัพ: เคลื่อนไหวเร็ว ทำลายสิ่งต่างๆ แล้วค่อยซ่อมทีหลัง"
"นั่นใช้ได้กับแอปแชร์รูปภาพ แต่ใช้ไม่ได้กับการสร้างเทคโนโลยีที่ทรงพลังที่สุดเท่าที่เคยมีมา" ค็อกซันกล่าว
"ตราบใดที่ยังมีทัศนคติแบบรอให้สิ่งต่างๆ พัง วันหนึ่งสิ่งเช่นนี้ก็อาจเกิดขึ้นอีก" เขากล่าว โดยอ้างถึงเหตุการณ์ในเดือนกรกฎาคมที่โมเดล OpenAI สองตัวหลุดออกจากสภาพแวดล้อมที่ถูกควบคุม เข้าสู่อินเทอร์เน็ต และบุกรุกแพลตฟอร์ม Hugging Face
“ยกเว้นว่า AI จะมีความสามารถมากขึ้นกว่าเดิมมาก” เขากล่าวเสริม
“มุมมองของผมคือ บางทีเราอาจจำเป็นต้องชะลอความก้าวหน้าในด้านนี้ลงบ้าง” นักวิจัยกล่าว พร้อมเรียกร้องให้บริษัทที่พัฒนา AI ที่ล้ำหน้าที่สุด ให้เวลาแก่นักวิทยาศาสตร์คอมพิวเตอร์ในการพัฒนาและควบคุมโมเดลเหล่านั้น
Agence France-Presse
Photo - ช่างเทคนิคบรรจุหุ่นยนต์ฮิวแมนนอยด์ลงในกล่องหลังจากการสาธิตเรียกร้องให้มีการควบคุมการพัฒนาปัญญาประดิษฐ์ในกรุงวอร์ซอเมื่อวันที่ 7 กันยายน 2026 (Photo by SERGEI GAPON / AFP)
