เหตุการณ์ Deepfake Porn ที่ใช้ AI เขย่าวงการโรงเรียนมัธยมในซิดนีย์

ทางการตำรวจในซิดนีย์, ออสเตรเลีย ได้ทำการตรวจสอบคดีซึ่งเกี่ยวข้องกับนักเรียนชายที่ใช้เทคโนโลยีปัญญาประดิษฐ์ (AI) เพื่อสร้างภาพลามกอนาจารของเพื่อนนักเรียนหญิงในโรงเรียนมัธยม โดยการกระทำนี้ได้สร้างความกังวลอย่างยิ่งเกี่ยวกับการใช้งาน AI ในทางที่ผิด

นักเรียนชายที่ยังไม่ได้รับการเปิดเผยชื่อจากทางตำรวจ ได้ถูกกล่าวหาว่าใช้ภาพถ่ายจากสื่อสังคมออนไลน์และเหตุการณ์ต่าง ๆ ภายในโรงเรียนในการสร้างภาพลามกอนาจารที่มีลักษณะเหมือนจริง ข้อมูลนี้ได้ถูกเผยแพร่ผ่านโปรไฟล์ที่สร้างขึ้นโดยปลอมตัวบนสื่อสังคมออนไลน์ ทางโรงเรียนได้แจ้งให้ผู้ปกครองทราบถึงเหตุการณ์นี้ผ่านอีเมล์ว่า "ภาพถ่ายที่ไม่เป็นอันตรายของนักเรียนหญิงของคุณและนักเรียนคนอื่นๆถูกใช้งานในทางที่ไม่เหมาะสม"

การกระทำนี้ไม่ใช่เหตุการณ์ที่เกิดขึ้นเป็นครั้งแรก จากการวิจัยโดยองค์กร Internet Matters ในลอนดอน พบว่ามีผู้เยาว์ถึง 530,000 คนในสหราชอาณาจักรที่เคยพบเจอกับ deepfake ที่ลามก เรื่องราวคล้ายกันนี้เกิดขึ้นในนครซีแอตเทิล สหรัฐ ในปีที่ผ่านมา และในนิวเจอร์ซีย์อีกหลายปีที่ผ่านมา ที่ซึ่งนักเรียนหญิงถูกสร้างภาพ deepfake โดยใช้ภาพถ่ายที่ไม่ได้โป๊เปลือยแต่อย่างใด

ทางด้านรัฐมนตรีการศึกษาของ New South Wales, Prue Car ได้ต่อต้านเหตุการณ์นี้อย่างเต็มที่ในการแถลงข่าว โดยบอกว่า "การกระทำของนักเรียนชายจะต้องเจอกับบทลงโทษ" ทาง Department of Education เน้นย้ำถึงนโยบายที่ไม่อดทนต่อพฤติกรรมเช่นนี้เลย พร้อมทั้งเสนอความช่วยเหลือและการสนับสนุนด้านสวัสดิการอย่างต่อเนื่องให้กับนักเรียนที่ได้รับผลกระทบ

ก่อนหน้านี้ในเดือนมิถุนายน มีเหตุการณ์คล้ายกันเกิดขึ้นที่ Victoria ที่ซึ่งนักเรียนวัย 17 ปีได้สร้างภาพ AI ของเพื่อนนักเรียนหญิงขึ้น ภายหลังจากการตรวจสอบ นักเรียนผู้นั้นได้รับคำเตือนจากทางตำรวจ

จากเหตุการณ์นี้ ผู้เชี่ยวชาญด้านกฎหมายได้ระบุถึงช่องว่างในกฎหมายที่เกี่ยวข้องกับเนื้อหา AI ที่ลามก มีการออกกฎหมายในประเทศออสเตรเลียในเดือนสิงหาคม 2023 เพื่อต่อต้านการทำ deepfake ลามกที่ไม่ยินยอม และในสหรัฐอเมริกามีการสนับสนุนกฎหมาย Preventing Deepfakes of Intimate Images Act รวมถึงการริเริ่มในเรื่องของกฎหมายที่เกี่ยวกับ deepfake ในสิงคโปร์และ EU AI Act

โดยโรงเรียนยังคงให้การสนับสนุนและให้การดูแลทางด้านจิตใจต่อไปแก่นักเรียนที่ได้รับผลกระทบ ซึ่งแสดงถึงความรับผิดชอบและการจัดการปัญหานี้อย่างรวดเร็ว

Source: https://decrypt.co/300254/ai-deepfake-porn-scandal-sydney-high-school-police

Tags: #AvareumNews #AI #Deepfake #Education #SydneyPoliceAction

This newsletter is produced with assistance from OpenAI's ChatGPT-4. All analyses are reviewed and verified by our research team.

© 2024 Avareum Research. All Rights Reserved. This article is provided for informational purposes only. It is not offered or intended to be used as legal, tax, investment, financial, or other advice.