AI của Facebook vượt khỏi tầm kiểm soát, buộc họ phải khiến nó ngừng hoạt động

Thứ hai - 31/07/2017 03:58
Trí thông minh nhân tạo (AI) của Facebook đã tạo ra một ngôn ngữ mới mà con người không thể giải mã, và đó là một sự tiến hóa nguy hiểm.
AI của Facebook vượt khỏi tầm kiểm soát, buộc họ phải khiến nó ngừng hoạt động

Công nghệ hiện tại đã phát triển với tốc độ đáng kinh ngạc. Đến mức, trí thông minh nhân tạo (AI) giờ đã đạt đủ trình độ để hoặc gây ấn tượng mạnh, hoặc khiến tất cả chúng ta phải run sợ, giống như trong bộ phim điện ảnh bom tấn Kẻ hủy diệt (The Terminator) vậy.

Tại sao phải sợ? Vì khi AI đã đạt được khả năng tự suy nghĩ, chúng cũng có thể tự tiến hóa, trở nên vượt khỏi tầm kiểm soát của chúng ta. Thậm chí với kịch bản xấu nhất, thế giới có thể bị robot lật đổ, như phim vậy.

Mới đây, Facebook đã phát triển một AI để giúp việc giao tiếp trên mạng kỹ thuật số được hiệu quả hơn. Tuy nhiên, AI này làm việc quá tốt, đến nỗi buộc lòng các chuyên gia của Mark Zuckerberg phải cho nó ngưng hoạt động trước khi có vấn đề xảy ra.

Cụ thể hơn, các nhà nghiên cứu đã tạo ra một vài AI và khiến chúng tương tác với nhau bằng tiếng Anh. Nhưng dù bằng ngôn ngữ phổ biến như vậy, đoạn hội thoại giữa chúng dường như chẳng có ý nghĩa gì cả. Ví dụ như sau:

Bob: "I can can I I everything else."

Alice: "Balls have zero to me to me to me to me to me to me to me to me to."

Về cơ bản, đây quả là những câu nói thực sự vô nghĩa. Tuy nhiên, các chuyên gia đã phát hiện ra một lỗi nhỏ trong khi lập trình, mà nhờ đó các AI bỗng coi tiếng Anh là một thứ ngôn ngữ... chậm tiến.

Nói cách khác, những câu thoại vô nghĩa bên trên thực chất là một thứ ngôn ngữ do các AI tự hình thành. Theo các chuyên gia từ Facebook, các cụm từ lặp lại ấy tưởng là sai, nhưng lại là cách mà các AI giao tiếp sao cho hiệu quả hơn. Vấn đề chỉ nằm ở chỗ phần lớn chúng ta không thể giải mã được.

AI của Facebook vượt khỏi tầm kiểm soát, buộc họ phải khiến nó ngừng hoạt động - Ảnh 3.

AI của Facebook đã tạo ra một ngôn ngữ mới, và điều này là không được phép

Một vài chuyên gia đã thử tìm hiểu xem các cụm từ này có ý nghĩa gì. Nhưng thực sự, chẳng ai có thể đưa ra đáp án chính xác, ngoại trừ chính lũ AI này.

Kết cục, Facebook quyết định ngắt kết nối tất cả. Họ giải thích rằng họ chỉ muốn chúng nói tiếng Anh để con người hiểu được, và chẳng bao giờ cho phép AI tự tạo ra ngôn ngữ của riêng mình. Đó là sự tiến hóa nguy hiểm.

Còn các bạn nghĩ sao? Liệu robot và AI có nên được cho phép tiến hóa như vậy hay không? Để lại bình luận nhé.

Nguồn: IFL Science

Nguồn tin: theo Trí Thức Trẻ

Tổng số điểm của bài viết là: 0 trong 0 đánh giá

Click để đánh giá bài viết

  Ý kiến bạn đọc

Những tin mới hơn

Những tin cũ hơn