Facebook ngưng cuộc thử nghiệm AI sau khi hai robot bắt đầu nói ngôn ngữ riêng mà chỉ chúng mới có thể hiểu được

vietanhsongngu.com -

Facebook ngưng cuộc thử nghiệm AI sau khi hai robot bắt đầu nói ngôn ngữ riêng mà chỉ chúng mới có thể hiểu được

Facebook ngưng cuộc thử nghiệm AI sau khi hai robot bắt đầu nói ngôn ngữ riêng mà chỉ chúng mới có thể hiểu được

Facebook shuts off AI experiment after two robots begin speaking in their OWN language only they can understand

 

Vào tháng Sáu, các nhà nghiên cứu từ Phòng Nghiên cứu  AI (FAIR) đã phát hiện rằng trong khi họ đang bận rộn với việc cải tiến các “chatbot”, thì " Hệ thống trả lời tự động" này đã tạo ra ngôn ngữ riêng của chúng không hề có sự can thiệp của con người.

In June, the researchers from the Facebook AI Research Lab (FAIR) found that as they were busy trying to improve chatbots, the “dialogue agents” were creating their own language without human input, media reports said.

Các "chatbot" Alice và Bob đã tạo ra ngôn ngữ riêng mà con người không thể hiểu được. Điều này rất thú vị - nhưng cũng vô cùng đáng sợ.

The “chatbots” Alice and Bob created its own unique language that humans can’t understand. This was exciting — but also incredibly scary.

Các "chatbot" này được thiết lập nhằm mục đích phát triển các công cụ Trouble-shooters tự động cho các mạng truyền thông xã hội.

The “chatbots” were set up in a bid to develop automated Trouble-shooters for social media networks.

Ban đầu các “chatbot” này sử dụng tiếng Anh để trò chuyện với nhau nhưng sau đó chúng đã tạo ra một ngôn ngữ mới mà chỉ có hệ thống AI mới có thể hiểu.

Initially the “chatbots” used English to converse with each other but then they created a new language that only AI systems could understand.

Facebook đã đóng cửa một trong những hệ thống AI của mình sau khi chatbots chống lại các mã được cung cấp và bắt đầu nói chuyện bằng ngôn ngữ riêng của chúng.

Facebook shut down one of its AI systems after chatbots defying the codes provided started speaking in their own language.

 

 

Vị giáo sư người Anh Kevin Warwick cho biết: "Đây là một mốc vô cùng quan trọng, nhưng nếu có ai đó nghĩ rằng điều này chả nguy hiểm gì thì họ quả thật là những kẻ đang cố né tránh thực trạng”.

“This is an incredibly important milestone, but anyone who thinks this is not dangerous has got their head in the sand”, said UK Robotics Professor Kevin Warwick.

"Chúng tôi không biết chúng đang chuyện trò những gì. Một khi mà bạn sở hữu một bot có khả năng làm một điều gì đó về mặt tự nhiên, đặc biệt là các bot quân sự,  thì điều này có thể xảy đến sự diệt vong.”

“We do not know what these bots are saying. Once you have a bot that has the ability to do something physically, particularly military bots, this could be lethal.”

Ông cũng nói rằng các thiết bị thông minh ngày nay có khả năng giao tiếp. Mặc dù chúng ta nghĩ rằng chúng ta có thể giám sát chúng, nhưng chúng ta chưa tìm ra cách nào để giám sát.

He also said that smart devices nowadays had the ability to communicate. Although we thought we could monitor them, we had no way of knowing.

 

Các nhà khoa học và kỹ sư công nghệ, bao gồm Elon Musk, Bill Gates, và Steve Wozniak đã cảnh báo rằng AI có thể dẫn tới những hậu quả thảm khốc khó lường. Nhà vật lý nổi tiếng Stephen Hawking cảnh báo vào năm 2014 rằng AI có thể là sự kết thúc của loài người. "Nó sẽ tự khởi động và tự thiết kế lại với tốc độ ngày càng cao trong khi con người vẫn bị hạn chế bởi sự tiến hóa sinh học chậm, không thể cạnh tranh, và sẽ bị thay thế. "

Scientists and tech luminaries, including Elon Musk, Bill Gates, and Steve Wozniak had warned that AI could lead to tragic unforeseen consequences. In 2014, Eminent physicist Stephen Hawking warned “It would take off on its own and re-design itself at an ever increasing rate. Humans, who are limited by slow biological evolution, couldn't compete, and would be superseded.”

Sự kiện trên Facebook đã gợi cho mọi người về bộ phim The Terminator, bộ phim mà robot có thể gây ra một cuộc chiến tranh chống lại con người.

The Facebook incident has recaledl people to The Terminator in which the robot can provoke a war against human.

Theo một bài báo cáo được phát hành trên tờ Tech Times vào hôm Chủ nhật, gã khổng lồ Facebook đã phải ngưng hệ thống AI này "vì mọi thứ đã ra ngoài tầm kiểm soát".

According to a report in Tech Times on Sunday, the social media giant had to stop the AI system “because things got out of hand”.

Báo cáo ghi nhận: "AI vẫn chưa tắt các máy tính trên toàn thế giới hay một thứ gì đó tương tự, mà nó ngừng sử dụng tiếng Anh và bắt đầu sử dụng một ngôn ngữ mà chúng tự tạo ra.

“The AI did not start shutting down computers worldwide or something of the sort, but it stopped using English and started using a language that it created,” the report noted.

Hơn thế, các nhà nghiên cứu cũng khẳng định rằng các “Hệ thống trả lời tự động" này là "những nhà thương thuyết cực kỳ khéo léo".

Moreover, the researchers confirmed that these “chatbots” were considered to be “incredibly crafty negotiators”.

 

Thật thú vị, vụ việc này diễn ra chỉ vài ngày sau cuộc tranh luận giữa Facebook CEO và Elon Musk về tương lai của AI.  

Interestingly, this incident took place just days after a verbal spat between Facebook CEO and Elon Musk over a debate on the future of AI.

Elon Musk không ngừng bàn luận về AI và đã gọi tiến bộ này là " mối nguy  lớn nhất mà chúng ta phải đối mặt là sự văn minh". “AI là một trường hợp hiếm hoi mà chúng ta cần phải chủ động trong việc điều chỉnh thay vì phản ứng vì nếu chúng ta phản ứng lại việc điều chỉnh AI thì đó là điều quá muộn màng”, ông nói.

Elson Musk has been speaking frequently on AI and has called its progress the “biggest risk we face as a civilisation”. “AI is a rare case where we need to be proactive in regulation instead of reactive because if we’re reactive in AI regulation it’s too late,” he said.

nhận xét: