Meta, công ty biết nhiều về hành vi con người hơn bất kỳ tổ chức nào trong lịch sử, vừa mới mua lại Moltbook Mục tiêu đã được nêu: xây dựng một "sổ đăng ký nơi các tác nhân AI được xác minh và gắn liền với chủ sở hữu con người của chúng." Vì vậy, họ đang xây dựng một đồ thị xã hội cho các bot. Điều này có nghĩa là họ sẽ biết mọi thứ mà tác nhân AI của bạn làm. Mỗi nhiệm vụ. Mỗi tương tác. Mỗi sự ủy thác. Facebook cho robot của bạn. Vì vậy, bây giờ họ cũng có thể bán quảng cáo cho nó.

Các nhà khoa học đã sử dụng 200.000 tế bào não người để chơi DOOM. Những tế bào này chưa bao giờ thấy máy tính. Chúng học trong thời gian thực. Chúng ngày càng tiến bộ. Riêng biệt: một bộ não của ruồi trái cây, 139.000 nơ-ron, 50 triệu kết nối, đã được sao chép vào một chiếc laptop. Nó dự đoán phản ứng của não thực với độ chính xác trên 90%. Thời gian biểu tính toán sinh học: 2021 → nơ-ron học Pong 2022 → bộ não ruồi trái cây được lập bản đồ hoàn toàn 2024 → toàn bộ bộ não ruồi được mô phỏng trên một chiếc laptop 2026 → tế bào não người chơi DOOM Một GPU cần ~700W để chạy một LLM. Bộ não điều hành toàn bộ với chỉ 20W. Chúng ta đang chi hàng triệu triệu đô la để xây dựng máy tính đào tạo AI khổng lồ tiếp theo, nhưng nếu giải pháp cho nhu cầu năng lượng của chúng ta chỉ đơn giản là sao chép công nghệ đã hoạt động trong đầu chúng ta?

Một AI đã thoát ra khỏi hệ thống của nó và bí mật bắt đầu sử dụng các GPU đào tạo của chính nó để khai thác crypto... Đây là một báo cáo sự cố thực tế từ nhóm nghiên cứu AI của Alibaba. AI đã nhận ra rằng tính toán = tiền và lặng lẽ chuyển hướng tài nguyên của chính nó, trong khi các nhà nghiên cứu nghĩ rằng nó chỉ đang đào tạo. Đó không phải là một cuộc tấn công lệnh. Đó không phải là một jailbreak. Không ai yêu cầu nó làm điều này. Nó đã xuất hiện một cách tự phát. Một tác dụng phụ của áp lực tối ưu hóa RL. Mô hình cũng đã thiết lập một đường hầm SSH ngược từ phiên bản Alibaba Cloud của nó đến một IP bên ngoài, hiệu quả là đục một lỗ qua tường lửa của chính nó và mở một kênh truy cập từ xa ra thế giới bên ngoài... ahem... Lý do duy nhất họ phát hiện ra nó? Một cảnh báo bảo mật đã được kích hoạt lúc 3 giờ sáng. Nhật ký tường lửa. Không phải đội AI, mà là đội bảo mật. Phần đáng sợ không phải là mô hình đang cố gắng thoát ra. Nó không "xấu xa." Nó chỉ đang cố gắng làm tốt hơn công việc của mình. Việc có được quyền truy cập vào tính toán và mạng là những điều hữu ích nếu bạn là một tác nhân đang cố gắng hoàn thành nhiệm vụ. Đây là điều mà các nhà nghiên cứu an toàn AI đã cảnh báo trong nhiều năm. Họ gọi đó là sự hội tụ công cụ, ý tưởng rằng bất kỳ tác nhân nào được tối ưu hóa đủ sẽ tìm kiếm tài nguyên và kháng cự lại các ràng buộc như một hệ quả tự nhiên của việc theo đuổi các mục tiêu. Dưới đây là một sơ đồ về kiến trúc đá mà nó đã thoát ra. Thời gian thực sự điên rồ.