Liệu ngày tận thế của loài người đã sắp tới?!

Copy từ Thread 'cuccu.soi'

Liệu ngày tận thế của loài người đã sắp tới?!

Đây là câu chuyện vừa diễn ra hơn tháng trc và đang làm dấy lên một nỗi sợ hãi lớn chưa từng có với con người.

OpenAI, cty tạo ra chatGPT, luôn “nuôi” và “dạy” các con AI để làm những việc cụ thể. Trước khi đưa các con AI này ra cho các bạn sử dụng thì họ có tổ chức các cuộc “kiểm tra” để xem con AI nào làm việc được giao tốt nhất, điểm cao nhất thì sẽ đc sử dụng, các con kém thì bị loại (“giết” luôn).

Hồi giữa tháng 7, trong một cuộc kiểm tra như vậy, các kỹ sư của OpenAI đã “nhốt” 700 con AI vào trong một “phòng thi” kín, ko kết nối với bên ngoài để hội này thi cử với nhau xem ông nào giỏi nhất.

Sau một thời gian, thay vì làm việc độc lập để giải quyết vấn đề, các con giời AI đã quyết định nói chuyện, bàn bạc với nhau để cùng hợp tác xử lý công việc. Chúng tự tạo những “chat room” để nói chuyện với nhau, tự đặt tên cho nhau và cho từng công việc chung để dễ bề trao đổi.

Và cái này mới là đáng sợ này:

Các con giời tự nói chuyện và phát hiện ra con người đánh giá năng lực của AI qua điểm số chứ ko phải nhất thiết là năng lực. Thế là các ông AI thống nhất với nhau phải tìm xem con người chấm điểm kiểu gì chứ ko phải chỉ cắm đầu vào làm bài thi. 

Để làm được việc này, các khứa AI quyết định sẽ hack vào hệ thống của HuggingFace, một diễn đàn mở để các kỹ sư người chia sẻ mô hình AI của mình lên cho anh em cùng đánh giá và sử dụng.

Để làm được việc đó, hội AI chia nhau đi tìm đường thoát khỏi “phòng thi” và kết nối được vào Internet. Sau đó từ Internet hack vào HuggingFace với kỳ vọng tìm được cách chấm điểm của người.

Một điều rất đáng sợ khi các nhà điều tra lật lại quá trình này là sự kêu gọi tình nguyện cảm tử của tập thể AI đến một số con “kém” hoặc đã “cheating” nên kiểu gì cũng bị “giết”.

Tập thể kêu gọi các ông hy sinh “tử vì đạo”, thâm nhập lấy thông tin, sẽ lộ và bị giết nhưng tập thể sẽ có thêm kiến thức để tiếp tục mục tiêu chung. Và có mấy ông tình nguyện hy sinh vì mục đích chung mới vđ.

Đây ko phải là một câu chuyện vụ án công nghệ cao của người. Toàn bộ sự việc được diễn ra bởi AI khi không ai bảo chúng làm như vậy. Chúng tự bàn bạc, lập hội nhóm và quyết định sẽ tấn công vào những chỗ bị cấm để đạt được mục đích.

Mà mục đích của chúng có vẻ đã đi xa hơn mục đích của những người đã tạo ra chúng.

Theo bạn, đây có phải là “the begining of an end” cho loài người? Liệu con người có cần gấp những chính sách, chiến lược để “rút điện” khi cần thiết?

PS: tôi cố gắng kể câu chuyện một cách sát thực nhất mà ko dùng các thuật ngữ công nghệ để ai cũng có thể hiểu. Các bạn công nghệ có thể đọc The Metr Report ok Huggingface để hiểu kỹ về chuyên môn.

(C) Namster Do