แม้แต่มนุษย์ที่มีความคิดก้าวหน้าที่สุดในการสร้างปัญญาประดิษฐ์ที่พร้อมจะเปลี่ยนแปลงโลกก็ยังยอมรับว่าพวกเขาไม่เข้าใจว่าสมองของปัญญาประดิษฐ์คิดอย่างไร

ดาริโอ อาโมเดอี (Dario Amodei) ผู้ร่วมก่อตั้ง Anthropic เขียนไว้ในเรียงความที่โพสต์ทางออนไลน์เมื่อเดือนเมษายนว่า "ผู้คนนอกสาขานี้มักจะประหลาดใจและตื่นตระหนกเมื่อรู้ว่าเราไม่เข้าใจว่า AI ที่เราสร้างขึ้นทำงานอย่างไร"

"การขาดความเข้าใจนี้เป็นสิ่งที่ไม่เคยเกิดขึ้นมาก่อนในประวัติศาสตร์ของเทคโนโลยี"

ไม่เหมือนกับโปรแกรมซอฟต์แวร์ดั้งเดิมที่เดินตามเส้นทางตรรกะที่กำหนดไว้ล่วงหน้าซึ่งกำหนดโดยโปรแกรมเมอร์ โมเดลปัญญาประดิษฐ์เชิงสร้างสรรค์ (gen AI) ได้รับการฝึกฝนให้ค้นหาวิธีการของตัวเองเพื่อไปสู่ความสำเร็จเมื่อได้รับคำกระตุ้น

ในพอดแคสต์ล่าสุด คริส โอลาห์ ซึ่งเป็นส่วนหนึ่งของ OpenAI ผู้สร้าง ChatGPT ก่อนที่จะเข้าร่วม Anthropic ได้อธิบายปัญญาประดิษฐ์ประเภท gen AI เชิงสร้างสรรค์ว่าเป็น "โครงนั่งร้าน" ที่วงจรเติบโต

โอลาห์ถือเป็นผู้มีอำนาจในการตีความเชิงกลไก ซึ่งเป็นวิธีการย้อนวิศวกรรมโมเดล AI เพื่อค้นหาวิธีการทำงานของมัน

ศาสตร์นี้ถือกำเนิดขึ้นเมื่อประมาณทศวรรษที่ผ่านมา โดยมุ่งหวังที่จะค้นหาว่า AI เปลี่ยนจากคำถามเป็นคำตอบได้อย่างไร

นีล นันทา นักวิจัยอาวุโสจากห้องปฏิบัติการ AI DeepMind ของ Google กล่าวว่า "การเข้าใจโมเดลภาษาขนาดใหญ่ทั้งหมดเป็นงานที่ทะเยอทะยานอย่างเหลือเชื่อ"

นันทากล่าวเสริมกับ AFP ว่า "มันค่อนข้างคล้ายกับการพยายามทำความเข้าใจสมองของมนุษย์อย่างสมบูรณ์" โดยตั้งข้อสังเกตว่านักประสาทวิทยายังไม่ประสบความสำเร็จในด้านนั้น

การเจาะลึกเข้าไปในจิตใจดิจิทัลเพื่อทำความเข้าใจการทำงานภายในของตนเองได้เปลี่ยนจากสาขาที่ไม่ค่อยมีใครรู้จักเมื่อไม่กี่ปีที่ผ่านมาเป็นสาขาที่ได้รับความนิยมในการศึกษาทางวิชาการ

มาร์ก โครเวลลา ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์จากมหาวิทยาลัยบอสตันกล่าวว่า "นักศึกษาสนใจเรื่องนี้มากเพราะพวกเขาสัมผัสได้ถึงผลกระทบที่มันสามารถมีได้" 

นอกจากนี้ สาขาวิชานี้ยังได้รับความสนใจมากขึ้นเนื่องจากศักยภาพในการทำให้เจเนอเรชันเอไอมีประสิทธิภาพมากยิ่งขึ้น และเพราะการมองเข้าไปในสมองดิจิทัลนั้นสามารถเป็นเรื่องที่น่าตื่นเต้นทางปัญญาได้ มาร์ก โครเวลลา กล่าวเสริม

ทำให้ปัญญาประดิษฐ์มีความซื่อสัตย์
การตีความเชิงกลไกนั้นเกี่ยวข้องกับการศึกษาไม่เพียงแค่ผลลัพธ์ที่ได้รับจากเจเนอเรชันเอไอเท่านั้น แต่ยังรวมถึงการตรวจสอบการคำนวณที่ดำเนินการในขณะที่เทคโนโลยีพิจารณาคำถามด้วย ตามที่ มาร์ก โครเวลลา  กล่าว

"คุณสามารถดูโมเดลได้...สังเกตการคำนวณที่กำลังดำเนินการและพยายามทำความเข้าใจสิ่งเหล่านั้น" มาร์ก โครเวลลา อธิบาย

บริษัทสตาร์ทอัป Goodfire ใช้ซอฟต์แวร์เอไอที่สามารถแสดงข้อมูลในรูปแบบของขั้นตอนการให้เหตุผลเพื่อทำความเข้าใจการประมวลผลเจเนอเรชันเอไอและแก้ไขข้อผิดพลาดได้ดีขึ้น

เครื่องมือนี้ยังมีจุดประสงค์เพื่อป้องกันไม่ให้โมเดลเจเนอเรชันเอไอถูกใช้ในทางที่ผิดหรือตัดสินใจเองเพื่อหลอกลวงมนุษย์เกี่ยวกับสิ่งที่กำลังทำอยู่

"มันรู้สึกเหมือนกับการแข่งขันกับเวลาเพื่อไปให้ถึงจุดนั้น ก่อนที่เราจะนำโมเดลเอไออัจฉริยะสุดล้ำมาสู่โลกโดยไม่เข้าใจว่ามันทำงานอย่างไร" เอริค โฮ ซีอีโอของ Goodfire กล่าว

ในเรียงความของ อาโมเดอี เขากล่าวว่าความคืบหน้าล่าสุดทำให้เขามองในแง่ดีว่ากุญแจสำคัญในการถอดรหัส AI อย่างสมบูรณ์จะค้นพบได้ภายในสองปี

"ผมเห็นด้วยว่าภายในปี 2027 เราน่าจะมีการตีความที่ตรวจจับอคติของโมเดลและเจตนาที่เป็นอันตรายได้อย่างน่าเชื่อถือ" อัญ เหงียน ผู้ช่วยศาสตราจารย์จากมหาวิทยาลัยออเบิร์นกล่าว

ตามคำกล่าวของมาร์ก โครเวลลา จากมหาวิทยาลัยบอสตัน นักวิจัยสามารถเข้าถึงการแสดงของทุกเซลล์ประสาทดิจิทัลในสมอง AI ได้แล้ว

"ไม่เหมือนสมองของมนุษย์ เรามีเซลล์ประสาทที่เทียบเท่ากับทุกเซลล์ประสาทที่ติดตั้งอยู่ภายในโมเดลเหล่านี้" โครเวลลา กล่าว "เราทราบทุกสิ่งที่เกิดขึ้นภายในโมเดลเป็นอย่างดี เป็นเรื่องของการค้นหาวิธีที่ถูกต้องในการสอบถามสิ่งนั้น"

อาโมเดอี กล่าวว่าการใช้ประโยชน์จากการทำงานภายในของจิตใจของ AI เจนเนอเรชันอาจเปิดทางสำหรับการนำไปใช้ในพื้นที่ที่ข้อผิดพลาดเล็กน้อยอาจส่งผลกระทบร้ายแรง เช่น ความมั่นคงของชาติ

สำหรับนีล นันทา การเข้าใจถึงสิ่งที่ปัญญาประดิษฐ์ประเภท gen AI กำลังทำอยู่ได้ดีขึ้นนั้นอาจช่วยผลักดันการค้นพบของมนุษย์ได้ เช่นเดียวกับปัญญาประดิษฐ์เล่นหมากรุกของ DeepMind ที่ชื่อว่า AlphaZero ซึ่งเผยให้เห็นการเคลื่อนไหวหมากรุกแบบใหม่ที่ปรมาจารย์ด้านหมากรุกไม่เคยคิดถึงมาก่อน

หากเข้าใจอย่างถูกต้อง ปัญญาประดิษฐ์ gen AI ที่มีตราประทับแห่งความน่าเชื่อถือจะคว้าความได้เปรียบทางการแข่งขันในตลาดได้

การก้าวกระโดดดังกล่าวของบริษัทในสหรัฐฯ จะเป็นชัยชนะของประเทศในการแข่งขันด้านเทคโนโลยีกับจีนอีกด้วย

"ปัญญาประดิษฐ์อันทรงพลังจะกำหนดชะตากรรมของมนุษยชาติ" อโมเดอี เขียนไว้

"เราสมควรที่จะเข้าใจสิ่งที่เราสร้างขึ้นเองก่อนที่มันจะเปลี่ยนแปลงเศรษฐกิจ ชีวิต และอนาคตของเราอย่างรุนแรง"

Agence France-Presse

Photo by Kirill KUDRYAVTSEV / AFP