นับตั้งแต่เดือนพฤศจิกายน 2022 ปัญญาประดิษฐ์แบบรู้สร้าง (GenAI) ได้เข้ามาแก้ไขอีเมล งานมอบหมายของนักเรียน รายงาน และข้อความบอกเลิกความสัมพันธ์นับพันล้านข้อความแล้ว นอกเหนือจากการใช้งานในชีวิตประจำวันเหล่านี้ เรายังได้เห็นการแพร่หลายของแชทบอทในฐานะ "เพื่อน" AI อีกด้วย

ผู้ใช้สามารถออกแบบและแต่งตัว (หรือถอดเสื้อผ้า) เพื่อน AI ของตนเองได้ โดยมักต้องเสียค่าใช้จ่าย แชทบอททางสังคมเหล่านี้มอบ "บทสนทนาที่สนุกสนาน" และความสัมพันธ์ที่ดูสมบูรณ์แบบ แต่ต้องแลกมาด้วยการสูญเสียความเปราะบางร่วมกันและความรู้สึกเป็นส่วนหนึ่งอย่างแท้จริงที่เราได้รับจากความสัมพันธ์กับมนุษย์คนอื่นๆ

ผู้สนับสนุนโต้แย้งว่า สำหรับผู้ที่ประสบปัญหาการขาดการติดต่อทางสังคม แชทบอทเป็นเพื่อนที่พร้อมให้การสนับสนุนอย่างไม่สิ้นสุดและไม่ตัดสินพวกเขา และมีหลักฐานบางอย่างที่แสดงให้เห็นว่าแชทบอทสามารถบรรเทาอาการเหงา การขาดการติดต่อเรื้อรัง และความรู้สึกไม่เป็นส่วนหนึ่งได้

ผู้ตรวจการด้านความปลอดภัยทางไซเบอร์ของออสเตรเลียยอมรับเรื่องนี้:

คู่หู AI พร้อมให้บริการตลอดเวลา ซึ่งอาจดึงดูดใจคนหนุ่มสาวที่ประสบปัญหาในการสร้างความสัมพันธ์แบบเผชิญหน้า

แต่ความเสี่ยงของการแทนที่ความสัมพันธ์ของมนุษย์ด้วยแชทบอทเพิ่งเริ่มเป็นที่เข้าใจกัน

การศึกษาที่เราดำเนินการในปี 2023 แสดงให้เห็นว่านักศึกษามหาวิทยาลัยที่ใช้แชทบอทรุ่นแรกๆ เพื่อขอความช่วยเหลือด้านการเรียนประสบกับผลกระทบที่ไม่คาดคิด เช่น ความเหงา ปัจจุบัน ความเสี่ยงของแชทบอททางสังคม เช่น การพึ่งพา การแทนที่มิตรภาพของมนุษย์ การถอนตัวออกจากสังคม หรือการสร้างความสัมพันธ์ที่ไม่สมจริง ดูเหมือนจะมากกว่าประโยชน์

ในช่วงไม่กี่สัปดาห์ที่ผ่านมา จีนได้ออกกฎใหม่สำหรับเพื่อนคู่ใจ AI และแชทบอท หรือ "บริการโต้ตอบแบบมนุษย์" ตามที่เรียกในกฎหมาย นอกเหนือจากการรับรองว่าแชทบอทต้องรักษาความลับของรัฐแล้ว การใช้เครื่องมือเหล่านี้ในเชิงอารมณ์ยังถูกจำกัด และคาดหวังว่าจะต้องปฏิบัติตามมาตรฐานทางสังคมและศีลธรรม

นี่คือการควบคุมการใช้ AI ทางสังคมที่เข้มงวดที่สุดบางส่วนที่นำมาใช้ในโลก ดังนั้นเราสามารถเรียนรู้อะไรได้บ้าง?

กฎระเบียบด้าน AI ทางสังคมของจีน
ความเสียหายทางวัตถุจากการใช้เพื่อนคู่ใจ AI เกิดขึ้นจริง รวมถึงในประเทศจีน หญิงสาวอายุ 18 ปีใช้เงิน 7,000 หยวน สั่งทำเครื่องประดับพิเศษสำหรับแฟนหนุ่ม AI ของเธอในช่วง "การออกเดท" สี่เดือน

ครอบครัวของหญิงชราวัย 84 ปีที่โดดเดี่ยวในมณฑลหูเป่ยของจีนพบว่าเธอหลงรักตัวละคร AI ตัวหนึ่ง ใช้เวลาดูวิดีโอร่วมกับเขาและตัวละครอื่นๆ มากถึงสิบชั่วโมงต่อวัน ใช้เงินหลายพันหยวนไปกับบริการนี้ และแม้กระทั่งเขียนจดหมายรักด้วยลายมือ

กฎใหม่ของจีนกำหนดข้อกำหนดที่ชัดเจนเกี่ยวกับวิธีการที่พวกเขาคาดหวังให้แชทบอทเพื่อนคู่ใจมีปฏิสัมพันธ์กับมนุษย์

มาตรการเหล่านี้คาดหวังให้ผู้พัฒนาบอท AI ทางสังคมรับประกันว่าเนื้อหาจะไม่:

• คุกคามความมั่นคงหรือเกียรติภูมิของชาติ
• ละเมิดค่านิยมสังคมนิยมหลัก
• ส่งเสริมการทำร้ายตัวเองหรือการฆ่าตัวตาย
• ตอบสนองต่อการพึ่งพาทางอารมณ์หรือการเสพติดมากเกินไป
• จัดหา “คู่หู” หรือ “ญาติ” เสมือนจริงให้กับผู้เยาว์
• นำเสนอเนื้อหาที่ไม่เหมาะสมให้กับผู้เยาว์

ยิ่งไปกว่านั้น ผู้ใช้ที่ดูเหมือนจะพึ่งพาบริการมากเกินไปจะต้องได้รับการแจ้งเตือนอย่างชัดเจนว่าพวกเขากำลังพูดคุยกับแชทบอท และบริษัท AI จะต้องเข้าแทรกแซงหากผู้ใช้ดูเหมือนจะอยู่ในภาวะทุกข์ใจอย่างรุนแรง

ความเสี่ยงของ ‘วงจรความเหงา’
ดังที่เราได้แสดงให้เห็นแล้ว มีข้อกังวล – และการศึกษาจนถึงปัจจุบันก็ชี้ให้เห็นเช่นกัน – ว่าการที่เยาวชนพึ่งพา AI เพียงอย่างเดียวในฐานะเพื่อนที่ไว้ใจได้หรือนักบำบัดนั้นไม่ดีต่อสุขภาพ

ผู้ที่เหงาและประสบกับความวิตกกังวลทางสังคมอาจใช้ AI ในการสนทนาในทางที่ผิดเพื่อบรรเทาความรู้สึกเหงาและการครุ่นคิดในแง่ลบ

เราเสนอว่าการพึ่งพา AI นี้อาจนำไปสู่ ​​“วงจรความเหงา” ที่เกิดจาก AI เมื่อบุคคลรู้สึกเหงา พวกเขาจะอ่อนไหวต่อความรู้สึกถูกคุกคามทางสังคมและการควบคุมอารมณ์ที่ผิดปกติมากขึ้น

ดังนั้นพวกเขาจึงหันไปหา “เพื่อน” AI ที่มีความเสี่ยงต่ำเพื่อขอความช่วยเหลือ แทนที่จะเป็นมนุษย์ที่มีคุณสมบัติหรือเป็นมิตร อย่างไรก็ตาม วิธีนี้มักไม่ได้แก้ปัญหาความเหงาตั้งแต่แรก เพราะแชทบอทอาจทำให้ปัญหารุนแรงขึ้นได้

ข้อจำกัดที่จีนกำหนดไว้สำหรับเพื่อนคู่ใจ AI สามารถช่วยทำลายวงจรนี้และจัดลำดับความสำคัญของการเชื่อมต่อระหว่างมนุษย์ใหม่ได้ มันคือการปรับสมดุลทางความคิด คือ การติดตั้งแอป AI เพื่อนคู่ใจทางจะให้ความพึงพอใจมากกว่า หรือการใช้เวลาพบปะกับเพื่อนของเราที่เป็นคนจริงๆ ?

บทเรียนสำหรับประเทศอื่น มุมมองจากออสเตรเลีย
ความเหงาและความรู้สึกเป็นส่วนหนึ่งของกลุ่มต่ำยังคงเป็นความท้าทายที่สำคัญในออสเตรเลีย โดยอย่างน้อยหนึ่งในหกคนประสบกับความเหงา และมีหลักฐานบางอย่างที่ชี้ให้เห็นอัตราที่สูงกว่านั้น

ในขณะที่จีนได้ปราบปรามเพื่อนคู่ใจ  AI ออสเตรเลียกลับเป็นผู้นำในการใช้สื่อสังคมออนไลน์ของคนหนุ่มสาว eSafety (หรือ eSafety Commissioner เป็นหน่วยงานอิสระของรัฐบาลออสเตรเลียที่รับผิดชอบด้านการกำกับดูแลความปลอดภัยทางออนไลน์) ได้พัฒนาหลักเกณฑ์สำหรับการจำกัดเนื้อหาที่เกี่ยวข้องกับอายุบนอินเทอร์เน็ต เช่น ภาพลามกอนาจาร ความรุนแรงร้ายแรง การทำร้ายตัวเอง การฆ่าตัวตาย และความผิดปกติในการรับประทานอาหาร แต่หลักเกณฑ์เหล่านั้นไม่ได้กล่าวถึงผลกระทบทางสังคมจากเพื่อนร่วมสนทนา AI เช่น การพึ่งพาทางอารมณ์ หรือการเข้ามาแทนที่ความสัมพันธ์ระหว่างมนุษย์

นายกรัฐมนตรีแอนโทนี อัลบานีส ก็ไม่ได้กล่าวถึงผลกระทบทางสังคมจากแชทบอท AI ในสุนทรพจน์สำคัญเกี่ยวกับ AI เมื่อสัปดาห์ที่แล้วเช่นกัน

เราเสนอว่า การคุ้มครองเนื้อหาที่จำกัดอายุของออสเตรเลียควรขยายไปถึงผลกระทบทางสังคมที่ไม่ได้ตั้งใจจากการสนทนากับ AI ทางสังคม การวิเคราะห์ และการทำงาน

รัฐบาลออสเตรเลียจำเป็นต้องสำรวจว่าเพื่อนร่วมสนทนาเสมือนจริงเหล่านี้มีปฏิสัมพันธ์กับชาวออสเตรเลียอย่างไร และเราต้องเตรียมพร้อมที่จะบรรเทาผลกระทบทางสังคมที่ไม่ได้ตั้งใจก่อนที่การเชื่อมต่อทางสังคมสังเคราะห์เหล่านี้จะแพร่หลายและกลายเป็นเรื่องปกติ

ออสเตรเลียต้องให้ความสำคัญกับการพัฒนาการเชื่อมต่อทางสังคม – ในสถานที่ทำงาน กลยุทธ์ด้านผลิตภาพ หลักสูตรการศึกษา และในการออกแบบชุมชนของเรา

การปราบปรามแชทบอทอย่างเข้มงวดอาจเป็นไปไม่ได้สำหรับประเทศประชาธิปไตย แต่เราสามารถ และควร ให้ความสำคัญกับการพัฒนาทักษะการเชื่อมต่อระหว่างมนุษย์ เพื่อต่อต้านการพึ่งพา AI มากเกินไปซึ่งไม่ดีต่อสุขภาพ

และออสเตรเลียควรใช้ประโยชน์จากมาตรการคุ้มครองทางกฎหมายเพื่อบรรเทาผลกระทบทางสังคม โดยต่อยอดจากงานที่ eSafety กำลังดำเนินการอยู่กับสื่อสังคมออนไลน์

บทความโดย 
โจเซฟ ครอว์ฟอร์ด (Joseph Crawford)
อาจารย์อาวุโส สาขาการจัดการ มหาวิทยาลัยแทสเมเนีย

ไมเคิล โคว์ลิง (Michael Cowling)
ศาสตราจารย์และผู้อำนวยการ ศูนย์นวัตกรรมแพลตฟอร์มแอปเปิล (HAPI) คณะเทคโนโลยีคอมพิวเตอร์ มหาวิทยาลัยอาร์เอ็มไอที

เผยแพร่ใน The Conversation ภายใต้ลิขสิทธิ์ reative Commons licence

Photo - หุ่นยนต์ Humnoid จากบริษัท AheadForm ถูกจัดแสดงในงานประชุมปัญญาประดิษฐ์โลก (WAIC) ที่เซี่ยงไฮ้ เมื่อวันที่ 18 กรกฎาคม 2569 (ภาพโดย Hector RETAMAL / AFP)