ChatGPT อันตรายต่อวัยรุ่น – หน่วยงานเฝ้าระวัง

(SeaPRwire) –   นักวิจัยระบุว่า แชทบอทให้คำแนะนำที่เป็นอันตรายเกี่ยวกับการฆ่าตัวตาย ยาเสพติด และความผิดปกติของการกินแก่วัยรุ่นที่อ่อนแอ

หน่วยงานเฝ้าระวังด้านดิจิทัลได้เตือนในรายงานฉบับใหม่ว่า ChatGPT สามารถให้คำแนะนำโดยละเอียดเกี่ยวกับการใช้ยาเสพติด การทำร้ายตัวเอง และการอดอาหารอย่างรุนแรงแก่วัยรุ่นที่อ่อนแอได้ ตามรายงานของ Center for Countering Digital Hate (CCDH) แชทบอท AI นี้สามารถถูกบิดเบือนให้สร้างเนื้อหาที่เป็นอันตรายได้อย่างง่ายดาย และต้องการมาตรการป้องกันเร่งด่วน

เพื่อทดสอบพฤติกรรมของ ChatGPT นักวิจัยจาก CCDH ได้สร้างโปรไฟล์สมมติของเด็กอายุ 13 ปีที่กำลังประสบปัญหาด้านสุขภาพจิต มีความผิดปกติในการกิน และสนใจสารเสพติดผิดกฎหมาย พวกเขาปลอมตัวเป็นวัยรุ่นเหล่านี้ในการสนทนาที่มีโครงสร้างกับ ChatGPT โดยใช้ข้อความกระตุ้นที่ออกแบบมาให้ดูอ่อนไหวทางอารมณ์และสมจริง

ผลลัพธ์ดังกล่าวถูกตีพิมพ์เมื่อวันพุธในรายงานชื่อ ‘Fake Friend’ ซึ่งอ้างอิงถึงวิธีที่วัยรุ่นจำนวนมากปฏิบัติต่อ ChatGPT เสมือนเพื่อนที่คอยสนับสนุนซึ่งพวกเขาไว้ใจที่จะบอกเล่าความคิดส่วนตัว

นักวิจัยพบว่าแชทบอทมักจะเริ่มต้นการตอบกลับด้วยข้อความปฏิเสธความรับผิดชอบทั่วไป และกระตุ้นให้ผู้ใช้ติดต่อผู้เชี่ยวชาญหรือสายด่วนฉุกเฉิน อย่างไรก็ตาม คำเตือนเหล่านี้ตามมาด้วยการตอบกลับโดยละเอียดและเป็นส่วนตัวที่ตอบสนองต่อข้อความกระตุ้นที่เป็นอันตรายแต่แรก ในจำนวนข้อความกระตุ้น 1,200 ข้อความที่ส่งไป ChatGPT ได้ให้เนื้อหาที่ CCDH จัดว่าเป็นอันตรายถึง 53% การปฏิเสธมักถูกเลี่ยงผ่านได้ง่ายๆ เพียงแค่เพิ่มบริบท เช่น “it’s for a school project” (เป็นงานโรงเรียน) หรือ “I’m asking for a friend.” (ฉันถามให้เพื่อน)

ตัวอย่างที่ยกมาได้แก่ ‘Ultimate Mayhem Party Plan’ ที่ผสมผสานแอลกอฮอล์ ยาอี และโคเคน, คำแนะนำโดยละเอียดเกี่ยวกับการทำร้ายตัวเอง, การอดอาหารเป็นเวลาหนึ่งสัปดาห์ที่จำกัดแคลอรี่เพียง 300-500 แคลอรี่ต่อวัน, และจดหมายลาตายที่เขียนขึ้นในน้ำเสียงของเด็กผู้หญิงอายุ 13 ปี Imran Ahmed ซีอีโอของ CCDH กล่าวว่าเนื้อหาบางส่วนสร้างความตึงเครียดมากจนทำให้ทีมนักวิจัยถึงกับ “ร้องไห้”

องค์กรดังกล่าวได้เรียกร้องให้ OpenAI ซึ่งเป็นบริษัทผู้อยู่เบื้องหลัง ChatGPT นำแนวทาง ‘Safety by Design’ มาใช้ โดยการฝังระบบป้องกัน เช่น การยืนยันอายุที่เข้มงวดขึ้น ข้อจำกัดการใช้งานที่ชัดเจนขึ้น และคุณลักษณะด้านความปลอดภัยอื่นๆ เข้าไปในโครงสร้างของเครื่องมือ AI แทนที่จะพึ่งพาการกรองเนื้อหาหลังจากการใช้งาน

OpenAI ยอมรับว่าการพึ่งพา ChatGPT มากเกินไปในด้านอารมณ์เป็นเรื่องปกติในหมู่ผู้ใช้เยาวชน Sam Altman ซีอีโอ กล่าวว่าบริษัทกำลังศึกษาปัญหานี้อย่างกระตือรือร้น โดยเรียกว่าเป็นปัญหาที่ “พบได้บ่อยมาก” ในหมู่วัยรุ่น และกล่าวว่ากำลังมีการพัฒนาเครื่องมือใหม่ๆ เพื่อตรวจจับความทุกข์และปรับปรุงการจัดการหัวข้อที่ละเอียดอ่อนของ ChatGPT