นักวิจัยด้านปัญญาประดิษฐ์ (AI) ผู้ซึ่งเคยย้ายจาก OpenAI ไปร่วมงานกับ Anthropic ได้ตัดสินใจอำลาวงการ โดยกล่าวหาว่าบริษัทสัญชาติสหรัฐฯ ทั้งสองแห่งกำลัง "เอาชีวิตพวกเราไปเสี่ยง" ในการแข่งขันพัฒนาโมเดล AI ที่สามารถปรับปรุงตัวเองได้ (self-improvement)
เจค็อบ ค็อกซัน (Jacob Coxon) วัย 27 ปี ใช้เวลาตลอด 3 ปีที่ผ่านมาไปกับการฝึกสอนโมเดล AI ในขั้นต้น (pretraining) โดยเริ่มจากที่ OpenAI และต่อมาในปีนี้ได้ย้ายไปทำกับ Anthropic ซึ่งเป็นคู่แข่งที่เขามองว่ามีแนวทางการดำเนินงานที่ระมัดระวังกว่า
การฝึกสอนขั้นต้น (Pretraining) คือขั้นตอนที่โมเดล AI เรียนรู้และรับข้อมูลจำนวนมหาศาลเข้าสู่ระบบ
"ไม่มีบริษัทไหนที่แสดงความรับผิดชอบเลย พวกเขากำลังเร่งพัฒนาไปสู่ระบบซูเปอร์อินเทลลิเจนซ์ (superintelligence) ที่สามารถปรับปรุงตัวเองได้ และกำลังเอาชีวิตของพวกเราไปเสี่ยงเดิมพัน" ค็อกซัน กล่าวเมื่อวันอังคาร
"คนที่สร้าง AI เชื่ออย่างจริงจังว่ามันอาจฆ่าพวกเราทุกคนได้ภายในสิ้นทศวรรษนี้" เขากล่าวผ่านโพสต์บนแพลตฟอร์ม X
"นี่ไม่ใช่กลยุทธ์ทางการตลาดแต่อย่างใด" เขากล่าวเสริม
ซูเปอร์อินเทลลิเจนซ์ (Superintelligence) คือจุดตามทฤษฎีที่ขีดความสามารถของ AI ก้าวล้ำสติปัญญาของมนุษย์ไปแล้ว
อีแวน ฮิวเบิงเกอร์ (Evan Hubinger) ผู้บริหารฝ่ายความปลอดภัยของ Anthropic ได้ออกมาสนับสนุนคำพูดของค็อกซัน บน X เช่นกัน
"เราเชื่ออย่างจริงจังว่า AI อาจฆ่ามนุษย์ทุกคนได้!" เขากล่าว พร้อมเสริมว่าเขาประเมินความเสี่ยงดังกล่าวไว้ที่มากกว่าร้อยละ 10 ในช่วงทศวรรษหน้า
ฮิวเบิงเกอร์กล่าวว่า Anthropic "พยายามอย่างเต็มที่แล้ว" แต่ยังไม่มีแผนรับประกันว่าระบบ AI ที่มีความสามารถเหนือมนุษย์จะยอมปฏิบัติตามคำสั่งของผู้สร้าง โดยเขาระบุว่าความเสี่ยงที่จะเกิดเหตุการณ์ดังกล่าวกับโมเดลในปัจจุบันนั้นถือว่า "ต่ำ"
การลาออกของค็อกซันเกิดขึ้นในช่วงเวลาที่ Anthropic กำลังเตรียมตัวเปิดตัวผลิตภัณฑ์สู่ตลาด หลังจากผ่านช่วงฤดูร้อนที่เต็มไปด้วยเหตุการณ์การเจาะระบบโดยไม่ได้รับอนุญาตซึ่งกระทำโดยเครื่องมือ AI ระหว่างการทดสอบ
ทั้งสองบริษัทยังไม่ได้ตอบกลับคำขอความคิดเห็นจากสำนักข่าว AFP ในทันที
บรรดาผู้นำในวงการ AI ระบุว่า สิ่งที่เรียกว่า "การปรับปรุงตัวเองแบบวนซ้ำ" (recursive self-improvement) หรือขั้นตอนที่ระบบ AI สามารถออกแบบและฝึกสอน AI รุ่นถัดไปได้เองโดยแทบไม่ต้องอาศัยมนุษย์นั้น กำลังใกล้เข้ามาถึงแล้ว
ค็อกซันมองว่าความพยายามของ Anthropic นั้นเป็นเรื่องจริงจังและจริงใจ แต่เขาก็เชื่อว่าไม่มีบริษัทใดสามารถพัฒนา AI ที่เหนือกว่ามนุษย์ได้อย่างมีความรับผิดชอบ หากปราศจากการเข้ามาควบคุมดูแลของภาครัฐ หรือการชะลอการพัฒนาอย่างพร้อมเพรียงกัน "ที่ Anthropic พวกเขาตระหนักดีถึงเดิมพันและความเสี่ยงที่เกี่ยวข้อง แต่ก็ยังคงเร่งแข่งขันเพื่อให้เป็นผู้ที่ทำสำเร็จก่อนใคร เพราะเชื่อว่าไม่มีใครอื่นที่จะดำเนินการอย่างมีความรับผิดชอบได้ พวกเขาจึงต้องลงมือทำเองแม้จะมีความเสี่ยงก็ตาม" ค็อกซัน กล่าว
เมื่อเดือนกุมภาพันธ์ Anthropic ได้ถอดข้อสัญญาออกจากกฎบัตรด้านความปลอดภัย ซึ่งระบุว่าจะยุติการพัฒนาโมเดลหากไม่สามารถควบคุมความเสี่ยงของโมเดลเหล่านั้นได้
ทางบริษัทให้เหตุผลว่า หากพวกเขาตัดสินใจหยุดการดำเนินงานเพียงฝ่ายเดียว คู่แข่งที่ขาดความระมัดระวังเท่าก็จะเข้ามาครองตลาด ซึ่งจะส่งผลให้ภาพรวมของความปลอดภัยลดลง
ในช่วงปลายเดือนกรกฎาคม พนักงานในอุตสาหกรรมเทคโนโลยีกว่า 1,000 คน รวมถึง ดาริโอ อาโมเดอี (Dario Amodei) ซีอีโอของ Anthropic ได้เรียกร้องให้ทางการสหรัฐฯ สนับสนุนการชะลอการพัฒนา AI ขั้นสูงอย่างพร้อมเพรียงกัน
OpenAI ได้ระงับการฝึกสอนโมเดลรุ่นล่าสุดเป็นเวลาสองสัปดาห์ในเดือนสิงหาคม ก่อนจะกลับมาดำเนินการต่อภายใต้มาตรการควบคุมที่เข้มงวดยิ่งขึ้น
เมื่อวันอาทิตย์ที่ผ่านมา ยาคุบ พาชอสกี (Jakub Pachocki) หัวหน้านักวิทยาศาสตร์ของ OpenAI ได้ออกมาเรียกร้องให้ใช้ "ความระมัดระวังอย่างสูงสุด"
"ความร่วมมือระหว่างประเทศในการพัฒนา AI ในอนาคตจำเป็นต้องกลายเป็นวาระสำคัญอันดับต้นๆ สำหรับรัฐบาลทั่วโลก" เขาระบุในบทความบนบล็อก
ปัจจุบัน โมเดล AI ยังไม่มีกฎหมายระดับรัฐบาลกลางของสหรัฐฯ กำกับดูแลโดยตรง
เมื่อเดือนกันยายน วุฒิสมาชิก เบอร์นี แซนเดอร์ส (Bernie Sanders) และ เกรก คาซาร์ (Greg Casar) สมาชิกสภาผู้แทนราษฎรจากพรรคเดโมแครต ได้เสนอร่างกฎหมายเพื่อระงับการพัฒนา AI ไว้ชั่วคราว จนกว่าจะมีการจัดตั้งหน่วยงานกำกับดูแลระดับรัฐบาลกลางขึ้นมาทำหน้าที่ควบคุมดูแล
AFP
Photo - หุ่นยนต์ฮิวแมนนอยด์ต่อสู้กันในการแข่งขันคิกบ็อกซิ่ง ระหว่างการแข่งขัน World Humanoid Robot Games ครั้งที่ 2 ที่กรุงปักกิ่ง เมื่อวันที่ 23 สิงหาคม 2026 (Photo by Pedro PARDO / AFP)
