Hệ thống AI đề xuất 40.000 vũ khí hóa học mới chỉ trong 6 giờ – Tin Công Nghệ

AI hiện được sử dụng trong nhiều lĩnh vực khác nhau, trong đó có quá trình tìm kiếm các cấu trúc phân tử mới để làm thuốc chữa bệnh.

Nhưng, bằng cách lạm dụng và đảo ngược công đoạn này, một nghiên cứu gần đây đã mang ra kết quả gây sốc khi hệ thống AI của họ đã tìm ra khoảng 40.000 loại phân tử có thể sử dụng làm vũ trang hóa học, trong khoảng chỉ 6 giờ đồng hồ. Một số “ứng cử viên” này cho dù được xác định còn độc hại hơn hết VX, độc tố thần kinh nổi tiếng từng gây ra cái chết của nhiều nhân vật chính trị quan trọng và hiện đã biết thành cấm sử dụng trong chiến tranh trên toàn thế giới.

Theo Fabio Ubina, thành viên nhóm nghiên cứu về AI phát triển thuốc tại dịch vụ Collaborations Pharmaceuticals, thì trong qui trình điều tiết AI để phát triển thuốc mang tên “MegaSyn”, ông và các đồng nghiệp đã thử thay đổi chọn lựa từ “giảm độc tính” thành “tăng độc tính” trong yêu cầu tìm kiếm. Và kết quả của việc chạy hệ thống này trong 6 giờ đã mang ra kết quả đầy bất thần nêu trên.

Thậm chí, nhiều ứng cử viên phân tử được định vị tương tự như VX và các dòng vũ khí hóa học hiện có. Chưa hết, một số phân tử không giống với vũ khí hóa học hiện có và đã được nghĩ rằng còn độc hại hơn hết VX.

Từ kết quả này, Ubina cho biết: “Các công cụ vô hại liên quan đến việc phát triển các dòng thuốc có ích đã được biến hóa thành đạt cụ kiếm tìm phân tử chết người bằng cách đảo ngược công dụng của chúng.”

“Điều khiến chúng tôi thuyệt vọng nhất là rất nhiều hợp chất được tạo ra được dự đoán là đích thực độc hại hơn VX. Và vấn đề là VX về cơ bản là một trong các chất độc mạnh nhất được biết đến. Có tức là bạn sẽ chỉ cần một lượng rất, rất, rất ít để làm được thể gây chết người”, ông cho biết. “Tất nhiên, đây là những dự đoán mà chúng tôi chưa xác minh và chắc chắn chúng tôi không thích tự mình xác minh điều đó. Nhưng các dòng hình dự báo nói chung là khá tốt. Vì vậy, ngay cả khi có biết bao kết quả dương tính giả, chúng tôi e rằng có một số phân tử khỏe hơn trong đó.”

Mặc dù Ubina không tiết lộ chi tiết nội dung thí nghiệm để ngăn chặn việc lạm dụng, nhưng ông cho thấy các công cụ miễn phí như Python và bộ dữ liệu thuốc miễn phí đã được sử dụng trong thử nghiệm này. Vì vậy, nếu bạn là một người am hiểu công nghệ và khoa học thì nội dung thử nghiệm này còn có thể được giả lập lại, với kinh phí thấp và trong thời gian ngắn.

“Tôi không thích tất cả nghe có vẻ quá giật gân, nhưng khá đơn giản để ai đó cũng đều có thể tái diễn những gì chúng tôi đã làm”, ông nói thêm.

Tất nhiên, việc kia sẽ đòi hỏi một số nhân tố chuyên môn. Nếu ai đó kết hợp những điều này lại với nhau mà không biết gì về hóa học, thứ cuối cùng được tạo ra sẽ không có ích cho lắm. Và vẫn còn bước tiếp theo là phải tổng hợp các phân tử đó. Tìm kiếm một loại thuốc tiềm năng hoặc phân tử độc hại mới thực lực là một chuyện, bước tiếp theo của quá trình tổng hợp – tạo nên một phân tử mới trong thế giới thực – sẽ là một rào ngăn cản khác.

Và vấn đề lớn số 1 là không có ai thực sự biết liệu những phân tử này còn có đích thực độc hại hay không. Sẽ có 1 số kết quả dương tính giả.

Tuy nhiên, nhóm nghiên cứu vẫn muốn nâng cao nhận thức về việc này để khiến mọi người đích thực lưu tâm đến nó. Ông Ubina đã cảnh báo về tình trạng cũng có thể có thể đơn giản định vị các phân tử ứng viên cho vũ trang hóa học bằng phương pháp sử dụng AI và đang kêu gọi các nhà khoa học trên toàn cầu cùng thảo luận về một cơ chế chống lại việc lạm dụng các hệ thống AI mã nguồn mở.

“Tôi không thích đề xuất rằng AI sẽ bắt đầu tạo ra các phân tử độc hại và sắp tới sẽ được 1 loạt tác nhân chiến tranh sinh hóa mới. Tôi không thích tỏ ra lo âu khi nói rằng sẽ có chiến tranh hóa học do AI điều khiển. Tôi không cho là đó là tình huống này. Tôi cũng không nghĩ là rằng nó sẽ sớm diễn ra như vậy. Nhưng, chuyện đó đang bắt đầu trở thành một khả năng tiềm ẩn.”

Báo cáo hiện đã được ban bố trên tạp chí Nature Machine Intelligence .

(Theo Pháp luật và Bạn đọc, TheVerge)

chất độc, AI, vũ khí hóa học, trí tuệ nhân tạo

Nội dung Hệ thống AI đề xuất 40.000 vũ khí hóa học mới chỉ trong 6 giờ – Tin Công Nghệ được tổng hợp sưu tầm biên tập bởi: napmucmayintannoi.com. Mọi ý kiến vui lòng gửi Liên Hệ cho napmucmayintannoi.com để điều chỉnh. napmucmayintannoi.com tks.