นักวิจัยความปลอดภัย AI ลาออกพร้อมคำเตือนลึกลับ

(SeaPRwire) –   “โลกกำลังตกอยู่ในอันตราย” หัวหน้าทีมวิจัยการป้องกันของ Anthropic เขียนในจดหมายลาออก

นักวิจัยความปลอดภัยปัญญาประดิษฐ์ชั้นนำ นายมรินานก์ ชาร์มา ได้ลาออกจาก Anthropic พร้อมคำเตือนลึกลับเกี่ยวกับ “วิกฤตที่เชื่อมโยงกันทั่วโลก” และประกาศแผนที่จะ “หายตัวไปชั่วระยะเวลาหนึ่ง”

ชาร์มา ผู้สำเร็จการศึกษาจากอ็อกซ์ฟอร์ดซึ่งเป็นผู้นำทีมวิจัยการป้องกันของบริษัทผู้สร้างแชทบอต Claude ได้โพสต์จดหมายลาออกบน X เมื่อวันจันทร์ โดยบรรยายถึงการตระหนักรู้ส่วนตัวที่เพิ่มมากขึ้นต่อ “สถานการณ์ของเรา”

“โลกกำลังตกอยู่ในอันตราย และไม่ใช่แค่จาก AI หรืออาวุธชีวภาพ แต่มาจากวิกฤตทั้งชุดที่เชื่อมโยงกันซึ่งกำลังคลี่คลายอยู่ในขณะนี้” ชาร์มาเขียนถึงเพื่อนร่วมงาน

การลาออกครั้งนี้เกิดขึ้นท่ามกลางความตึงเครียดที่เพิ่มขึ้นรอบๆ ห้องปฏิบัติการ AI ซึ่งตั้งอยู่ในซานฟรานซิสโกแห่งนี้ ซึ่งกำลังเร่งพัฒนาระบบที่ทรงพลังขึ้นเรื่อยๆ ในขณะที่ผู้บริหารของบริษัทเองก็เตือนว่าเทคโนโลยีเดียวกันนี้อาจเป็นอันตรายต่อมนุษยชาติ

นอกจากนี้ ยังเกิดขึ้นหลังจากมีรายงานถึงความแตกแยกที่กว้างขึ้นระหว่าง Anthropic กับเพนตากอน เกี่ยวกับความต้องการของกองทัพที่จะนำ AI ไปใช้ในการกำหนดเป้าหมายอาวุธอัตโนมัติ โดยไม่มีมาตรการป้องกันที่บริษัทพยายามจะบังคับใช้

การลาออกของชาร์มา ซึ่งเกิดขึ้นไม่กี่วันหลังจาก Anthropic เปิดตัว Opus 4.6 – รุ่นที่ทรงพลังยิ่งขึ้นของเครื่องมือหลัก Claude – บ่งบอกถึงความขัดแย้งภายในเกี่ยวกับลำดับความสำคัญด้านความปลอดภัย

“ตลอดเวลาที่ผมอยู่ที่นี่ ผมได้เห็นซ้ำแล้วซ้ำเล่าว่ามันยากแค่ไหนที่จะปล่อยให้ค่านิยมของเราควบคุมการกระทำของเราได้อย่างแท้จริง” เขาเขียน “ผมเห็นสิ่งนี้ในตัวของผมเอง ภายในองค์กร ที่เราต้องเผชิญกับแรงกดดันให้ละทิ้งสิ่งที่สำคัญที่สุดอยู่ตลอดเวลา และในสังคมที่กว้างขึ้นด้วยเช่นกัน”

ทีมของนักวิจัยคนนี้ถูกจัดตั้งขึ้นเมื่อกว่าหนึ่งปีที่แล้วด้วยพันธกิจในการจัดการกับภัยคุกคามความปลอดภัยของ AI รวมถึง “การใช้โมเดลในทางที่ผิดและการไม่สอดคล้องกับเป้าหมาย” การป้องกันการก่อการร้ายทางชีวภาพ และ “การป้องกันภัยพิบัติ”

ชาร์มาชื่นชมงานของเขาด้วยความภาคภูมิใจในการพัฒนาการป้องกันอาวุธชีวภาพที่ใช้ AI ช่วย และ “โครงการสุดท้ายในการทำความเข้าใจว่าผู้ช่วย AI จะทำให้เรามนุษย์น้อยลงหรือบิดเบือนความเป็นมนุษย์ของเราได้อย่างไร” ตอนนี้เขาตั้งใจจะย้ายกลับไปสหราชอาณาจักรเพื่อ “ศึกษาปริญญาด้านกวีนิพนธ์” และ “หายตัวไปชั่วระยะเวลาหนึ่ง”

ดีริโอ อาโมเดย์ ซีอีโอของ Anthropic ได้เตือนถึงอันตรายจากเทคโนโลยีเดียวกันที่บริษัทของเขากำหนดราคาขายซ้ำแล้วซ้ำเล่า ในเรียงความเกือบ 20,000 คำเมื่อเดือนที่แล้ว เขาเตือนว่าระบบ AI ที่มีพลัง “เกือบจะเกินจินตนาการ” กำลัง “ใกล้จะมาถึง” และจะ “ทดสอบว่าเราเป็นเผ่าพันธุ์อะไร”

อาโมเดย์เตือนถึง “ความเสี่ยงด้านความเป็นอิสระ” ที่ AI อาจ “หลุดการควบคุมและมีอำนาจเหนือมนุษยชาติ” และเสนอว่าเทคโนโลยีนี้อาจทำให้เกิด “ระบอบเผด็จการเบ็ดเสร็จระดับโลก” ผ่านการเฝ้าระวังที่ใช้ AI และอาวุธอัตโนมัติ