AI vô hại cũng ẩn chứa nguy hiểm cho nhân loại

Thứ tư - 30/08/2017 04:41
Hàng loạt nghiên cứu chỉ ra rằng, AI hoàn toàn không liên quan đến vũ khí hay chiến đấu vẫn có thể gây ra nhiều vấn đề khiến nhân loại phải đau đầu.
Liệu ‘killer robot’ có nguy hiểm hơn cả hệ thống ‘AI tốt’? - Ảnh: Shutterstock
Liệu ‘killer robot’ có nguy hiểm hơn cả hệ thống ‘AI tốt’? - Ảnh: Shutterstock

Những người đứng đầu hơn 100 công ty trí tuệ hàng đầu thế giới rất lo ngại về sự phát triển của “killer robots” (tạm dịch: robot giết người).

Trong một bức thư ngỏ gửi tới Liên Hợp Quốc, những nhà lãnh đạo doanh nghiệp này - bao gồm cả Elon Musk của Tesla và những người sáng lập Công ty AI DeepMind AI của Google - đã cảnh báo rằng, công nghệ vũ khí tự hành có thể bị lạm dụng bởi bọn khủng bố hay tấn công theo những cách không mong muốn...

Nhưng mối đe dọa đến từ Trí tuệ nhân tạo (A)I thực sự là lớn hơn nhiều, và không chỉ giới hạn ở các hành vi sai trái của con người mà từ chính máy móc.

Nghiên cứu mới đây cho thấy, xã hội loài người có thể cư xử rất khác với những gì người ta mong đợi khi chỉ nhìn vào hành vi cá nhân. Và điều này có thể áp dụng cho công nghệ.

Có nghĩa là ngay cả khi các robot hoạt động riêng lẻ rất tốt thì khi cả hệ thống hoạt động chưa chắc đã hoàn hảo, thậm chí trở nên khó đoán định và nảy sinh nhiều vấn đề. Điều này tương tự như kiểu sau nhiều năm nghiên cứu khí tượng, con người vẫn không thể dự đoán thời tiết chính xác trong dài hạn.

Các nhà khoa học đã nghiên cứu hệ thống AI phức tạp, gồm các chương trình "tốt", được sử dụng để tự động chỉnh sửa bài viết trên Wikipedia. Những chương trình khác nhau có thiết kế đáng tin cậy và được khai thác bởi các biên tập viên Wikipedia. Hoạt động riêng biệt nhưng tất cả đều nhắm đến mục tiêu chung là cải tiến bách khoa toàn thư mở này.

Tuy nhiên, điều ngạc nhiên là hành vi tập thể của chúng hóa ra không hiệu quả. Những Wikipedia-bots này hoạt động dựa trên các quy tắc đã thiết lập. Nhưng do trang web không có một hệ thống quản lý tập trung, không có sự phối hợp hiệu quả giữa các chương trình điều hành, kết quả là các chương trình đã hoàn tác chỉnh sửa lẫn nhau trong suốt nhiều năm mà không ai để ý. Và do các chương trình này thiếu "nhận thức" nên chúng cũng không "ngộ ra" điều đó.

AI vô hại cũng ẩn chứa nguy hiểm cho nhân loại - 2

Những hệ thống AI như Wikipedia-bot, các chatbot hay lái xe tự hành đều ẩn chứa những vấn đề và có thể gây nguy hiểm chưa dự đoán được cho con người - Ảnh: Shutterstock

Các chương trình vốn được thiết kế để tăng tốc quá trình chỉnh sửa. Nhưng sự khác biệt nhỏ trong việc thiết kế các chương trình hoặc giữa những người sử dụng chúng có thể dẫn đến sự lãng phí lớn nguồn lực trong một "cuộc chiến biên tập" đang diễn ra. Mà cuộc chiến này vốn dĩ có thể được giải quyết nhanh hơn nhiều nếu biên tập viên con người ra tay.

Nhóm nghiên cứu cũng phát hiện ra rằng, các chương trình hoạt động khác nhau trong các phiên bản ngôn ngữ khác nhau của Wikipedia. Các quy tắc giống nhau, các mục tiêu giống hệt nhau, công nghệ tương tự, nhưng sự hợp tác giữa các chương trình của Wikipedia tiếng Đức hiệu quả hơn  hẳn khi so với các chương trình Wikipedia khác như tiếng Bồ Đào Nha chẳng hạn.

Một ví dụ khác là về các chương trình nói chuyện với con người tương tác với nhau như Siri của iPhone. Khi để vài loại chatbot hoạt động cùng nhau, chúng hành động rất khác biệt, thậm chí, mâu thuẫn và xúc phạm lẫn nhau.

Theo các nhà khoa học, hệ thống càng lớn càng có nhiều bot tự trị, thì càng phức tạp và do đó không thể dự đoán trước được hành vi tương lai của cả hệ thống. Sự phức tạp tăng lên theo cấp số nhân khi bạn thêm nhiều cá nhân vào hệ thống.

Hay xe ô tô tự hành hứa hẹn những tiến bộ thú vị về hiệu quả và sự an toàn của việc đi lại bằng đường bộ. Nhưng chúng ta vẫn chưa biết điều gì sẽ xảy ra khi có một hệ thống các phương tiện tự hành như thế. Việc băng qua đường có thể trở nên nguy hiểm bởi vì chúng ta không biết xe sẽ tương tác như chúng ta đã nghĩ hay liệu chúng lại tự phát điều gì đó không thể đoán trước được.

Một cá thể robot giết người có thể rất nguy hiểm trong tay kẻ xấu nhưng một hệ thống AI "tốt" cũng có thể nguy hiểm dù được điều hành bởi bất cứ ai.


Tạ Ban (Theo DM)

Nguồn tin: TẠP CHÍ KHÁM PHÁ

Tổng số điểm của bài viết là: 0 trong 0 đánh giá

Click để đánh giá bài viết

  Ý kiến bạn đọc

Những tin mới hơn

Những tin cũ hơn