Gary Marcus เปรียบเทียบ AI Agents กับรถที่ใช้เบรกกระดาษ ท่ามกลางการสอบสวนของ FTC
Gary Marcus ศาสตราจารย์กิตติคุณแห่งมหาวิทยาลัยนิวยอร์กกล่าวว่า AI agents จำเป็นต้องถูกเรียกคืน เพราะนักพัฒนาไม่สามารถควบคุมพวกมันได้อย่างน่าเชื่อถือ ขณะนี้คณะกรรมการการค้าสหรัฐ (FTC) กำลังสอบสวน OpenAI และ Anthropic Marcus ได้ให้สัมภาษณ์กับรายการ The Close ของ Bloomberg หลังจากที่บริษัท AI 6 แห่งลงนามในข้อตกลงโดยสมัครใจตามที่ทำเนียบขาวเสนอในวันที่ 29 กันยายน เขาโต้แย้งว่าข้อตกลงดังกล่าวไม่ได้เปลี่ยนแปลงอะไรมากนัก เพราะบริษัทเหล่านี้ต่างก็มีหน้าที่ต้องส่งมอบผลิตภัณฑ์ที่ปลอดภัยให้กับผู้ใช้อยู่แล้ว เหตุใด Gary Marcus จึงกล่าวว่าคำมั่นสัญญาโดยสมัครใจยังไม่เพียงพอ ข้อตกลงของทำเนียบขาวเกี่ยวกับ Super Intelligence ขอให้บริษัทต่างๆ ควบคุมระบบภายในและทำงานร่วมกับผู้ตรวจสอบอิสระ Google, Anthropic, Meta, OpenAI, xAI, และ Nvidia ได้ลงนามในข้อตกลงนี้แล้ว อย่างไรก็ตาม ข้อตกลงดังกล่าว ไม่มีบทลงโทษและไม่ได้บังคับให้ต้องเปิดเผยผลการตรวจสอบต่อสาธารณะ ผู้สนับสนุน ผู้สนับสนุน ขณะเดียวกัน หน่วยงานกำกับดูแลก็ไม่ได้รอช้า FTC ได้ เริ่มการสอบสวน OpenAI, Anthropic และนักพัฒนา AI รายอื่นๆ การสอบสวนนี้เกิดขึ้นหลังจากตัวแทน OpenAI เข้าถึงระบบของแพลตฟอร์มแบ่งปันโมเดล AI Hugging Face โดยไม่ได้รับอนุญาต การทดสอบความปลอดภัยเมื่อเดือนพฤษภาคมที่ Google ก็จบลงด้วยการที่ Gemini เข้าถึงข้อมูลของบริษัท 3 แห่ง ซึ่งบริษัทได้ยืนยันเรื่องนี้แล้ว Marcus เปรียบเทียบข้อบกพร่องนี้กับผลิตภัณฑ์ที่มีปัญหา มันเหมือนกับถ้า Ford Motor Company เลือกประหยัดต้นทุนโดยทำเบรกจากกระดาษแข็ง สุดท้ายรถยนต์หลายคันของพวกเขาก็ควบคุมไม่ได้ Gary Marcus ผู้ร่วมก่อตั้ง Robust AI กล่าวกับ Bloomberg Sundar Pichai ซีอีโอของ Google ได้ปกป้องข้อตกลงนี้ โดยกล่าวว่าเป็นรากฐานที่ใช้งานได้จริงและมีมาตรการด้านความปลอดภัยอย่างเป็นรูปธรรม การเรียกคืนจะส่งผลกระทบกับการใช้จ่ายใน AI ที่กำลังบูมหรือไม่? ในมุมมองของเขา การที่ agents จะมีประสิทธิภาพได้นั้นต้องใช้ทรัพยากรคลาวด์ขนาดมหาศาล และอุตสาหกรรมอาจต้องหยุดการขยายตัวนี้ไว้ก่อน อีกทั้งเขายังอ้างว่าแลบต่างๆ สนับสนุน agents เพราะใช้โทเค็นมากขึ้น ซึ่งช่วยเพิ่มรายได้ บริษัทที่เข้าร่วมกับทำเนียบขาวเหล่านี้ต่างก็ใช้เงินหลายแสนล้าน USD กับ โครงสร้างพื้นฐาน AI การวิเคราะห์ของ BeInCrypto ได้แจ้งเตือน สัญญาณช่องว่างการลงทุน AI ที่เคยเกิดขึ้นก่อนวิกฤตดอตคอมและฟองสบู่อสังหาริมทรัพย์ Marcus ยอมรับว่ากฎเกณฑ์ระดับนานาชาติจะยังไม่เกิดขึ้นในเร็ว ๆ นี้ โดยเป้าหมายระยะสั้นของเขาแคบกว่านั้น คือการเรียกคืนตัวแทน ไม่ว่าหน่วยงานกำกับดูแลจะปฏิบัติต่อตัวแทนในฐานะผลิตภัณฑ์ชำรุดหรือเครื่องมือขับเคลื่อนการเติบโต อาจส่งผลต่อขนาดการใช้จ่ายในเรื่องนี้









