Hàng nghìn chuyên gia kêu gọi tạm dừng phát triển hệ thống trí tuệ nhân tạo

Elon Musk và nhiều chuyên gia trí tuệ nhân tạo (AI) cùng các nhà quản lý ngành công nghiệp đang kêu gọi tạm ngừng đào tạo các hệ thống AI mạnh hơn GPT-4 của Open AI trong vòng 6 tháng vì nguy cơ tiềm tàng với xã hội và nhân loại.

Bức thư ngỏ do tổ chức phi lợi nhuận Future of Life Institute phát hành và có chữ ký của hơn 1.000 người bao gồm Elon Musk, Giám đốc điều hành của Stability AI, Emad Mostaque, các nhà nghiên cứu tại DeepMind thuộc sở hữu của Alphabet, cũng như các chuyên gia có uy tín về AI như Yoshua Bengio và Stuart Russell. Nhóm này kêu gọi tạm dừng 6 tháng với hệ thống đào tạo AI mạnh hơn GPT-4 mới ra mắt của Open AI.

"GPT-4, phiên bản mới nhất mô hình ngôn ngữ lớn của công ty khởi nghiệp Open AI (Mỹ), là nền tảng để ChatGPT hoạt động. Sam Altman, Giám đốc điều hành OpenAI, cho biết GPT-4 được cải tiến theo hướng sáng tạo hơn và ít thiên vị hơn so với bản trước đó. Ông nhấn mạnh đây là công nghệ AI tiên tiến chưa từng có, được đào tạo bằng cách sử dụng phản hồi của con người kết hợp công nghệ học sâu. GPT-4 có khả năng xử lý đa phương thức đầu vào, gồm cả hình ảnh, giúp người dùng tương tác với nhiều chế độ", nội dung của bức thư ngỏ.

Cụ thể, thông tin của bức thư nêu rõ, nên tạm dừng phát triển AI tiên tiến cho đến khi có giao thức an toàn dùng chung cho các thiết kế như vậy (GPT-4) được phát triển, triển khai và kiểm toán bởi các chuyên gia độc lập. Các hệ thống AI mạnh mẽ chỉ nên được phát triển khi chúng ta tin tưởng rằng tác động của chúng sẽ tích cực và rủi ro của chúng là có thể kiểm soát được, bức thư viết.

Bức thư cũng nêu ra những rủi ro tiềm tàng đối với xã hội và nền văn minh khi AI cạnh tranh với con người, gây ra những gián đoạn về kinh tế và chính trị, cho rằng các nhà phát triển cần bàn bạc với giới hoạch định chính sách và các cơ quan quản lý.

Bản thân Elon Musk - ông chủ của Telsa, công ty sử dụng AI cho hệ thống lái tự động, đã lên tiếng về những lo ngại của mình về trí tuệ nhân tạo. Tháng 2 vừa rồi, Musk đã lên tiếng cảnh báo về sự phát triển của AI tại World Government Summit ở Dubai, UAE.

"Một trong những rủi ro lớn nhất đối với tương lai của nền văn minh là AI – trí tuệ nhân tạo. Trí tuệ nhân tạo có cả tích cực lẫn tiêu cực, có nhiều hứa hẹn tuyệt vời nhưng cùng với đó cũng là mối nguy hiểm lớn. AI đã phát triển được một thời gian. Trong khi ô tô, máy bay và y học phải tuân thủ các tiêu chuẩn an toàn nghiêm ngặt theo quy định, thì AI vẫn chưa có bất kỳ quy tắc hoặc quy định nào để kiểm soát sự phát triển của nó", tỷ phú Elon Musk nhấn mạnh.

Reuters cho hay, ông Sam Altman, Giám đốc điều hành của OpenAI, đã không ký vào bức thư này cũng như từ chối yêu cầu bình luận về sự việc này.

Gary Marcus, Giáo sư danh dự tại Đại học New York, người đã ký bức thư, cho biết: "Bức thư không hoàn hảo, nhưng tinh thần là đúng. Chúng ta cần chậm lại cho đến khi hiểu rõ hơn về các tác động. Chúng có thể gây tác hại nghiêm trọng. Những người chơi lớn ngày càng trở nên bí mật về điều họ đang làm, khiến xã hội khó phòng thủ trước những nguy cơ có thể đến".

ai-1680083914.jpg

Ảnh minh họa.

Kể từ khi được OpenAI phát hành vào tháng 11/2022, ChatGPT đã gây ra một cơn sốt công nghệ, khiến các đối thủ tung ra các sản phẩm tương tự và các công ty tích hợp nó hoặc các công nghệ tương tự vào các ứng dụng và sản phẩm của họ.

“Do các mô hình ngôn ngữ lớn như GPT đang tích cực được cải tiến, khả năng khai thác tiềm năng của những loại hệ thống AI này bởi các tội phạm dẫn đến tầm nhìn u ám”, Europol nói khi trình bày báo cáo công nghệ đầu tiên của mình bắt đầu với chatbot.

Europol chỉ ra việc sử dụng ChatGPT có hại trong 3 lĩnh vực tội phạm. Europol cho biết: “Khả năng của ChatGPT trong việc soạn thảo văn bản vô cùng thực tế khiến nó trở thành công cụ hữu ích cho mục đích lừa đảo cá nhân”.

Với khả năng tái tạo các mẫu ngôn ngữ để bắt chước phong cách nói chuyện của các cá nhân hoặc nhóm cụ thể, ChatGPT có thể được sử dụng bởi tội phạm để nhắm mục tiêu vào các nạn nhân, cơ quan thực thi pháp luật.

Europol nói rằng khả năng của ChatGPT trong việc sản xuất văn bản chân thực với tốc độ và quy mô lớn cũng khiến nó trở thành một công cụ lý tưởng cho hoạt động tuyên truyền và phát tán thông tin sai lệch. "ChatGPT cho phép người dùng tạo và phổ biến những thông điệp phản ánh một câu chuyện cụ thể với tương đối ít nỗ lực", Europol cho hay.

Europol nói rằng, tội phạm không có nhiều kiến thức kỹ thuật có thể sử dụng ChatGPT để tạo ra mã độc./.

Được phát hành vào năm ngoái, ChatGPT của OpenAI do Microsoft đứng đằng sau đã thúc đẩy các đối thủ tăng tốc phát triển các mô hình tương tự. Google đã đáp trả sự ra mắt của ChatGPT bằng công cụ của riêng mình, được gọi là Bard.

Thi Nguyên (t/h)

Link nội dung: https://doanhnghiepkinhtexanh.vn/elon-musk-va-hang-nghin-chuyen-gia-keu-goi-tam-dung-phat-trien-he-thong-tri-tue-nhan-tao-a14757.html