Vitalik Buterin nêu bật những hạn chế của tính tự chủ quá mức của AI, ủng hộ sự tương tác giữa con người nhiều hơn

Nhà đồng sáng lập Ethereum, Vitalik Buterin, gần đây đã chia sẻ sự thất vọng của mình trên nền tảng mạng xã hội X về cách tiếp cận của nhiều nhà phát triển AI nhằm tối đa hóa bản chất "agent" của các hệ thống AI. Ông lập luận rằng việc tập trung vào việc tăng tính tự chủ của AI không hiệu quả bằng việc tạo ra nhiều cơ hội hơn cho con người tham gia, điều này không chỉ mang lại kết quả tốt hơn về lâu dài mà còn tăng cường tính an toàn.

Ông cho biết trong một ấn phẩm rằng: “Ngày nay, tôi hứng thú hơn nhiều với các mô hình AI có trọng lượng mở với chức năng chỉnh sửa tốt hơn là những mô hình chỉ để tạo từ đầu”.

Ông nói thêm: “Về trung hạn, tôi muốn có một thứ gì đó gọi là BCI đặc biệt, có thể cho tôi thấy mọi thứ khi nó được tạo ra và phát hiện theo thời gian thực cảm nhận của tôi về từng phần của nó và điều chỉnh cho phù hợp”.

Những thách thức của tính tự chủ quá mức trong AI và lời hứa về các mô hình tương tác, thích ứng với người dùng

Vitalik Buterin đã phản hồi bài đăng của cựu giám đốc AI của Tesla, Andrej Karpathy, người chỉ ra rằng các mô hình ngôn ngữ lớn (LLM) đang trở nên quá tự chủ khi chúng được tối ưu hóa cho các tác vụ dài hạn. 

Andrej Karpathy giải thích rằng, ví dụ, trong mã hóa, các mô hình này hiện có xu hướng suy luận trong thời gian dài, thể hiện xu hướng tìm kiếm trong toàn bộ kho lưu trữ, thực hiện tìm kiếm trên web nhiều lần, phân tích quá mức các trường hợp hiếm gặp, ngay cả trong mã được biết là chưa hoàn thiện hoặc đang được phát triển tích cực và thường quay lại sau vài phút để trả lời ngay cả những truy vấn đơn giản.

“Điều này có thể hợp lý với các tác vụ chạy dài, nhưng lại không phù hợp với việc phát triển lặp lại theo kiểu 'vòng lặp' mà tôi vẫn thường xuyên thực hiện, hoặc khi tôi chỉ đơn giản muốn kiểm tra nhanh trước khi chạy một tập lệnh, phòng trường hợp tôi mắc lỗi lập chỉ mục hoặc một lỗi đơn giản nào đó. Tôi thường ngắt quãng các LLM bằng những câu đại loại như 'Dừng lại, anh đang nghĩ quá nhiều rồi. Chỉ tập trung vào tệp này thôi. Đừng sử dụng bất kỳ công cụ nào. Đừng thiết kế quá mức'”, Andrej Karpathy chia sẻ trong một ấn phẩm.

Vitalik Buterin bày tỏ sự đồng tình với quan điểm cho rằng việc tự chủ quá mức trong trí tuệ nhân tạo có thể dẫn đến giảm hiệu quả. Ông lập luận rằng các mô hình nguồn mở được trang bị tính năng chỉnh sửa hiệu quả hơn đáng kể so với các mô hình chỉ được thiết kế để tạo nội dung từ đầu. 

Nhà đồng sáng lập Ethereum cũng nhấn mạnh tiềm năng của giao diện não-máy tính, theo dõi phản ứng của người dùng với nội dung được tạo ra theo thời gian thực và điều chỉnh cho phù hợp. Công nghệ này sẽ cho phép các hệ thống AI hiểu rõ hơn và phản hồi tốt hơn với ý định và kỳ vọng của người dùng. Ông lưu ý rằng nhiều mô hình AI hiện tại thường không tính đến những sắc thái tinh tế này, điều này làm hạn chế tính hữu dụng tổng thể của chúng.