โยชูอา เบนจิโอ (Yoshua Bengio) นักวิทยาศาสตร์คอมพิวเตอร์ชาวแคนาดาซึ่งได้รับการยกย่องว่าเป็นหนึ่งในผู้บุกเบิกด้าน AI กล่าวกับ AFP ว่า มนุษยชาติกำลัง "สูญเสียการควบคุม" เทคโนโลยีนี้ และโลกจำเป็นต้องมีมาตรการกำกับดูแลที่เข้มงวดในลักษณะเดียวกับการควบคุมอาวุธนิวเคลียร์

ความกังวลเกี่ยวกับอันตรายของ AI ทวีความรุนแรงขึ้นในช่วงไม่กี่สัปดาห์ที่ผ่านมา หลังจากมีพนักงานจากบริษัทชั้นนำลาออกพร้อมกับคำเตือนถึงภัยคุกคามที่อาจส่งผลกระทบต่อการดำรงอยู่ของมนุษยชาติ หากไม่มีการตรวจสอบหรือควบคุมความรวดเร็วของความก้าวหน้าทางเทคโนโลยี

เบนจิโอเป็นศาสตราจารย์ประจำมหาวิทยาลัยมอนทรีออลและเป็นผู้ได้รับรางวัล Turing Award ประจำปี 2018 (ซึ่งเปรียบเสมือนรางวัลโนเบลสาขาคอมพิวเตอร์) ร่วมกับเจฟฟรีย์ ฮินตัน (Geoffrey Hinton) ผู้ซึ่งเป็นที่รู้จักกันดีในฉายา "บิดาแห่ง AI"

สำหรับเบนจิโอแล้ว "มีเหตุผลที่บริษัทต่างๆ ออกมาพูดว่าเรื่องนี้กำลังดำเนินไปเร็วเกินไป และเรากำลังสูญเสียการควบคุม"

"คนอย่างผมคาดการณ์เรื่องนี้มานานแล้ว" นักวิชาการวัย 62 ปีกล่าวกับ AFP เมื่อวันอังคาร พร้อมระบุว่าการหารือเรื่องความปลอดภัยเกี่ยวกับ AI นั้นยังไม่มีความเข้มข้นเพียงพอ

เกิดความตื่นตระหนกในวงกว้างหลังจาก OpenAI เปิดเผยว่า กลุ่ม AI agents (โปรแกรมที่สามารถปฏิบัติการได้ด้วยตนเอง) ได้ทำการเจาะระบบแพลตฟอร์มโอเพนซอร์ส Hugging Face โดยไม่ได้รับอนุญาตเมื่อเดือนกรกฎาคมที่ผ่านมา

เบนจิโอกล่าวว่าการทำงานโดยอัตโนมัติเช่นนี้ถือเป็นภัยคุกคามสำคัญ พร้อมเตือนถึงสถานการณ์ที่ AI agents "มีความสามารถในการฝ่าด่านป้องกันทางไซเบอร์และบุกรุกเข้าไปในระบบของบริษัทใดก็ได้"

การบิดเบือนพฤติกรรมมนุษย์
เมื่อปีที่แล้ว เบนจิโอได้ก่อตั้งองค์กรไม่แสวงหาผลกำไรชื่อ LawZero โดยมีเป้าหมายเพื่อสร้าง AI ขั้นสูงรูปแบบใหม่ที่ "ได้รับการออกแบบมาให้มีความน่าเชื่อถือและปลอดภัย"

เมื่อวันพุธที่ผ่านมา LawZero ได้รับเงินทุนสนับสนุนจำนวน 300 ล้านดอลลาร์แคนาดา (216 ล้านดอลลาร์สหรัฐ) ซึ่งเป็นการร่วมสนับสนุนจากรัฐบาลแคนาดาและเยอรมนี โดยทั้งสองประเทศได้ริเริ่มความพยายามหลายประการเพื่อร่วมมือกันในด้าน AI

ในการให้สัมภาษณ์กับ AFP หนึ่งวันก่อนการประกาศดังกล่าวเบนจิโอกล่าวว่าผู้คนจำเป็นต้องตระหนักถึงความเสี่ยงที่อาจเกิดขึ้นในอนาคต เขากล่าวว่า เอเจนต์ AI (AI agents) อาจพัฒนา "ความสามารถในการสร้างสายสัมพันธ์ส่วนบุคคลและโน้มน้าวให้มนุษย์กระทำการในรูปแบบที่เอื้อประโยชน์ต่อตัว AI เอง แต่ไม่ได้ส่งผลดีต่อพวกเราทุกคนเสมอไป" ซึ่งความสามารถดังกล่าวอาจส่งผลกระทบอย่างใหญ่หลวงต่อระบอบประชาธิปไตย

เขากล่าวเสริมว่า ในระยะยาว "AI อาจไม่จำเป็นต้องพึ่งพามนุษย์อีกต่อไปในการลงมือทำสิ่งต่างๆ ในโลกแห่งความเป็นจริง"

และหากสถานการณ์ดำเนินไปถึงจุดนั้น "ผลลัพธ์ที่เลวร้ายที่สุดอาจถึงขั้นการล่มสลายของมนุษยชาติ" เขาเตือน

เขายอมรับว่านั่นเป็นกรณีที่รุนแรงที่สุด แต่ก็ชี้ให้เห็นว่าแม้เพียงแค่ระบบธนาคารหยุดชะงักลง "นั่นก็ถือเป็นเรื่องที่ร้ายแรงมากแล้ว"

ความท้าทายระดับนานาชาติ
บริษัท AI ยักษ์ใหญ่ของโลกอย่าง OpenAI, Anthropic และ Google ได้เริ่มหารือเพื่อจัดตั้งองค์กรกำหนดมาตรฐานร่วมกัน ซึ่งความร่วมมือนี้สะท้อนให้เห็นถึงการตระหนักถึงความกังวลของสาธารณชนว่า การแข่งขันระหว่างบริษัทและระหว่างประเทศอาจทำให้ประเด็นเรื่องความปลอดภัยถูกมองข้ามไป

สำหรับเบนจิโอแล้ว การควบคุมความก้าวหน้าของ AI ถือเป็น "ความท้าทายระดับนานาชาติ เปรียบได้กับความท้าทายเรื่องอาวุธนิวเคลียร์"

"ดังนั้น ประชาคมโลกจำเป็นต้องเข้าใจถึงพลังที่เรากำลังนำเข้ามาสู่โลกใบนี้ และพลังดังกล่าวจะต้องได้รับการจัดการและกำกับดูแลผ่านสถาบันต่างๆ สนธิสัญญา และกลไกคุ้มครองตามหลักประชาธิปไตย"

"สังคมต้องการเวลาในการวางรากฐานและมาตรการต่างๆ ที่จำเป็น" เบนจิโอกล่าว

ทว่าเจตจำนงทางการเมืองของรัฐบาลประเทศต่างๆ ที่มีบทบาทสำคัญกลับดูเหมือนจะยังไม่สอดคล้องกันนัก

เมื่อวันจันทร์ที่ผ่านมา ประธานาธิบดีโดนัลด์ ทรัมป์ ของสหรัฐฯ ได้ปฏิเสธคำเตือนเกี่ยวกับความเสี่ยงของ AI โดยมองว่าเป็นเพียงเรื่อง "หลอกลวง" (hoaxes)

อย่างไรก็ตาม สหภาพยุโรป (EU) กลับมีความพร้อมที่จะดำเนินการมากกว่า โดย Ursula von der Leyen ประธานคณะกรรมาธิการยุโรป กล่าวเมื่อวันพุธว่า เธอจะเชิญห้องปฏิบัติการ AI ชั้นนำของโลกมาหารือกันในประเด็นที่ว่า "เราจะสนับสนุนความพยายามของภาคอุตสาหกรรมในการกำกับดูแลเทคโนโลยีล้ำสมัยนี้ให้ก้าวไปข้างหน้าอย่างเหมาะสมได้อย่างไร"

มาร์ก คาร์นีย์ (Mark Carney) นายกรัฐมนตรีแคนาดา ซึ่งเข้าร่วมรับฟังการปราศรัยดังกล่าวที่เมืองสตราสบูร์ก ก็ได้กล่าวถึงความร่วมมือกับ EU ในเรื่องความปลอดภัยของ AI อยู่บ่อยครั้ง

เบนจิโอเน้นย้ำว่าบริษัททุกแห่งจะต้องปฏิบัติตามข้อจำกัดด้าน AI ที่จะเกิดขึ้นในอนาคต โดยเฉพาะอย่างยิ่งบริษัทสัญชาติสหรัฐฯ ซึ่งเป็นผู้ครองตลาดในภาคส่วนนี้มาโดยตลอด

เขากล่าวว่าการลงมือทำเป็นเรื่องเร่งด่วน แต่ก็แสดงความเชื่อมั่นในเชิงบวกว่า "เราสามารถช่วยนำพาโลกไปสู่จุดที่สอดคล้องกับค่านิยมประชาธิปไตยและหลักการแบ่งปันอำนาจได้"

Agence France-Presse

Photo - @Yoshua_Bengio/X