Kỷ nguyên của siêu trí tuệ được kiểm soát: Một kế hoạch trò chơi độc đáo do Antropic 'Claude Fable 5' đưa ra > tin tức

Sự xuất hiện của Claude Fable 5 báo trước một sự thay đổi mang tính kiến tạo trong hệ sinh thái công nghệ phần mềm. Khả năng của mô hình này vượt xa việc hoàn thành mã đơn giản và di chuyển cơ sở mã khổng lồ gồm hàng chục triệu dòng chỉ trong một ngày ở mức mà một nhóm phát triển có thể tự động hoàn thành một nhiệm vụ mất hơn hai tháng. Những đột phá về năng suất trong thử nghiệm ban đầu của các công ty toàn cầu như Stripe đã chứng minh rằng AI giờ đây có thể vượt xa vai trò trợ lý thành “kỹ sư phần mềm” thực sự, có khả năng hiểu và duy trì các cấu trúc phức tạp. Đặc biệt, nó đang thu hút sự chú ý đặc biệt từ ngành vì nó vượt trội so với các mô hình khác ở các tiêu chuẩn nghiêm ngặt như FrontierCode và đảm bảo mức chất lượng có thể được sử dụng ngay tại các địa điểm của công ty.

Trong bản phát hành này, Antropic giới thiệu một kỹ thuật thiết kế an toàn độc đáo được gọi là 'chuyển mạch tự động dựa trên bộ sắp xếp'. Khi Fable 5 phát hiện các cuộc tấn công an ninh mạng, thiết kế vũ khí sinh học, khai thác hóa học và các nỗ lực 'chưng cất' để trích xuất kiến ​​thức từ các mô hình cạnh tranh, nó sẽ ngay lập tức chuyển phản ứng sang mô hình thấp hơn 'Opus 4.8'. Thay vì làm giảm trải nghiệm người dùng bằng cách chặn vô điều kiện, đây là một chiến lược nâng cao nhằm đảm bảo rằng các yêu cầu rủi ro được xử lý trong môi trường được kiểm soát và các tác vụ thông thường được thực hiện ở hiệu suất cao nhất. Với hơn 1.000 giờ thử nghiệm của đội đỏ bên ngoài và tiền thưởng tìm lỗi để giảm thiểu khả năng bẻ khóa phổ biến, hệ thống mang lại trải nghiệm mượt mà cho người dùng trong hơn 95% phiên, cố gắng vừa an toàn vừa hiệu quả.

Mô hình Mythos 5 được tăng cường bảo mật hoạt động trong khuôn khổ chiến lược có tên là 'Project Glasswing'. Mẫu này đã loại bỏ các biện pháp an toàn và chỉ được cung cấp có chọn lọc cho các tổ chức liên quan đến an ninh quốc gia, bao gồm chính phủ Hoa Kỳ và các tổ chức đối tác đã được xác minh như Samsung Electronics và SK Hynix. Để đạt được mục tiêu này, Antropic đã triển khai Chương trình truy cập đáng tin cậy, hoàn thành cấu trúc kép nhằm ngăn chặn khả năng lạm dụng công nghệ đồng thời hỗ trợ các khả năng tiên tiến cho nghiên cứu bảo mật và xây dựng cơ sở hạ tầng quốc phòng. Hệ sinh thái khép kín này ngăn chặn nỗ lực đánh cắp công nghệ AI của các quốc gia độc tài và đóng vai trò như một tuyến phòng thủ ngăn chặn sức công phá mạnh mẽ của mô hình AI biên giới chảy vào các thực thể độc hại.

Những thành tựu của Vision Fable 5 trong lĩnh vực AI và công tác tri thức đã hoàn toàn vượt qua những hạn chế hiện có. Khả năng khôi phục mã nguồn của một ứng dụng web phức tạp chỉ bằng cách nhìn vào một hình ảnh hoặc trích xuất các con số chính xác từ biểu đồ phức tạp trong một bài báo khoa học, có nghĩa là AI đã vượt xa khả năng bắt chước khả năng suy luận trực quan của con người. Ngoài ra, khả năng phân tích nguyên nhân và tính toán giá trị kỳ vọng được thể hiện bởi nền tảng phân tích tài chính cho thấy AI sẽ thâm nhập sâu vào các công việc chuyên môn cấp cao như tư vấn, luật và hoạch định chiến lược. Đặc biệt, khả năng suy luận thị giác tự động, giúp xóa các trò chơi phức tạp chỉ sử dụng thông tin màn hình trò chơi mà không có sự trợ giúp của các công cụ bổ sung, là một ví dụ cho thấy Fable 5 đã phát triển thành một tác nhân thực hiện tư duy phức tạp thay vì một mô hình ngôn ngữ đơn giản.

Chính sách dữ liệu cũng là một trong những thay đổi quan trọng trong thông báo này. Antropic thông báo rằng họ sẽ bảo toàn tất cả lưu lượng truy cập từ Fable 5 và Mythos 5 trong 30 ngày và sử dụng nó để phát hiện các kỹ thuật tấn công mới và giảm tỷ lệ dương tính giả. Đây không phải là biện pháp thu thập dữ liệu để học mô hình mà chỉ nhằm duy trì hệ sinh thái an toàn và ngăn ngừa sự cố bảo mật. Ngoài ra, họ đã công bố kế hoạch mở một chương trình truy cập ủy thác riêng biệt trong lĩnh vực sinh học để mở ra khả năng nghiên cứu ở cấp độ Mythos vì lợi ích cộng đồng của nhân loại, chẳng hạn như phát triển các phương pháp điều trị. Đây là cái nhìn thoáng qua về triết lý của Antropic là không che giấu công nghệ mạnh mẽ mà tối đa hóa lợi ích của công nghệ thông qua quản lý minh bạch và các chính sách truy cập có trách nhiệm.