เทคนิคเบื้องหลัง AI ของ ChatGPT คว้ารางวัล Turing Prize แต่ผู้สร้างกังวลด้านความปลอดภัย

Andrew Barto และ Richard Sutton แห่งมหาวิทยาลัย Massachusetts ได้รับรางวัล ACM A.M. Turing Award ประจำปี 2024 สำหรับผลงานพื้นฐานของพวกเขาเกี่ยวกับการเรียนรู้การเสริมกำลัง (Reinforcement Learning) ซึ่งได้รับการยกย่องว่าเป็นรางวัลสูงสุดในวงการคอมพิวเตอร์ และมาพร้อมกับเงินรางวัล 1 ล้านเหรียญสหรัฐ ซึ่งสนับสนุนโดย Google แม้ว่าการได้รับรางวัลจะเป็นเกียรติครั้งใหญ่ แต่ทั้งสองใช้โอกาสนี้เพื่อเตือนถึงการพัฒนา AI ที่อาจเกิดความเสี่ยงต่อความปลอดภัย

การวิจารณ์ของ Barto และ Sutton เปรียบเสมือนการสร้างสะพานและทดสอบโดยให้คนใช้ โดยไม่มีการทดสอบความปลอดภัยอย่างเพียงพอ Barto กล่าวกับ The Financial Times ว่า "การเผยแพร่ซอฟต์แวร์ให้กับผู้คนมากมายโดยไม่มีกระบวนการป้องกันที่ดีไม่ใช่การปฏิบัติทางวิศวกรรมที่ดี" คำเตือนของพวกเขาสะท้อนให้เห็นถึงความกังวลที่เพิ่มขึ้นในวงการ AI

เหล่าผู้เชี่ยวชาญในสาขาวิทยาศาสตร์คอมพิวเตอร์มองว่าการพัฒนา AI ในปัจจุบันมีความเร่งรีบและอาจซ้อนไปด้วยความเสี่ยง Geoffrey Hinton และ Yoshua Bengio สองผู้ได้รับรางวัล Turing Award ก่อนหน้านี้ก็แสดงการสนับสนุนต่อท่าทีของ Barto และ Sutton ว่าการปล่อยโมเดลให้สาธารณะโดยไม่มีการป้องกันที่ถูกต้องทางเทคนิคและสังคมเป็นการกระทำที่ไม่มีความรับผิดชอบ

Barto และ Sutton เน้นถึงศักยภาพของ AI ที่สามารถพัฒนาสังคมและวิถีชีวิตของเราได้ แต่ทั้งสองก็ยอมรับว่าอาจต้องเผชิญกับความเปลี่ยนแปลงทางสังคมที่สำคัญ หากไม่มีการดำเนินการด้วยความระมัดระวังอนาคตของปัญญาประดิษฐ์ยังคงเป็นโอกาสสำคัญที่สามารถเปลี่ยนแปลงโลกได้

ในภูมิภาคการลงทุน Bitcoin อยู่ที่ 90,696.00 ดอลลาร์เพิ่มขึ้น 3.84% และ Ether อยู่ที่ 2,242.67 ดอลลาร์เพิ่มขึ้น 3.39% ข้อมูลเหล่านี้สะท้อนถึงความนิยมของตลาดที่มีความสนใจในเทคโนโลยีใหม่ ๆ อย่างมาก

Sutton ระบุว่า AI อาจเป็นจุดเปลี่ยนสำหรับปัญญาประดิษฐ์ทั่วไป ซึ่งสามารถมีบทบาทเข้ามามีส่วนร่วมในโลกได้โดยไม่มีการพัฒนาผ่านกระบวนการวิวัฒนาการทางชีวภาพ

Source: https://decrypt.co/308830/technique-behind-chatgpts-ai-wins-computings-top-prize-but-its-creators-are-worried

#AvareumNews #AI #ReinforcementLearning #ChatGPT #Bitcoin #Investment #TuringAward

Disclaimer: This newsletter is produced with assistance from OpenAI's ChatGPT-4. All analyses are reviewed and verified by our research team.