(0)

AI sẽ đi về đâu: dự đoán của các tác phẩm Sci Fi về tương lai trí tuệ nhân tạo

Đã có vô vàn tác phẩm Sci Fi tìm cách đưa ra dự đoán về một thế giới tương lai dưới sự kiểm soát của rô-bốt, và thường những dự đoán này chẳng tốt đẹp gì

Mới vào 2016 được có ba tháng mà AI (trí thông minh nhân tạo) của Google đã đè bẹp quán quân cờ vây và một chiếc xe tự lái (cũng Google nốt) đã đâm phải xe buýt trên đường. Có lẽ đã đến lúc nên e ngại về một tương lai các tác phẩm Sci Fi (khoa học viễn tưởng/khoa huyễn) đã phỏng đoán từ lâu: AI sẽ tiến hoá cao hơn con người.

Cũng trong Sci Fi, ta được chứng kiến cảnh các AI tàn phá thế giới loài người. Trong truyện ngắn về AI tàn khốc nhất tính đến nay là "Tôi không có mồm, và tôi phải hét" (I Have No Mouth, and I Must Scream) xuất bản năm 1967 của Harlan Ellison, một AI quân sự mang tên AM được chế ra giữa một cuộc chiến tranh hạt nhân, và nó tận diệt toàn bộ loài người, chỉ chừa lại năm người sống sót để hành hạ.

"Chúng ta đã ban cho AM tri giác. Tất nhiên chỉ vô tình thôi, nhưng tri giác vẫn là tri giác. Nhưng nó bị kẹt cứng. AM không phải Chúa, nó là máy. Chúng ta tạo ra nó để nó nghĩ, nhưng nó chẳng thể ứng dụng sức sáng tạo của mình vào đâu cả. Thế là trong cơn giận dữ điên cuồng, cái máy ấy thảm sát loài người, giết hầu hết giống loài chúng ta, ấy nhưng nó vẫn kẹt cứng. AM không thể đi lang thang, AM không thể ngạc nhiên trước những điều lạ thường, AM không thuộc về nơi nào cả. Nó chỉ tồn tại thôi. Vậy là với một linh hồn ngập tràn ghê tởm vốn dĩ đã ăn sâu vào trí óc mọi cỗ máy đối với những sinh vật yếu ớt, mong manh đã tạo ra chúng, nó tìm cách báo thù."

Một trong số năm người sống sót phải xuống tay hạ sát những người bạn đồng hành của mình để họ được giải phóng khỏi những chiêu trò tra tấn của AM, và kết cục là anh ta bị biến thành một khối chất sền sệt bất tử, đến hét lên cũng không thể làm được.

Ellison là một trong những nhà văn Sci Fi đầu tiên nhận ra rằng một cỗ máy có tri giác sẽ phải đối mặt với bao trăn trở về sự hiện sinh con người từng trải qua. Chúng ta là ai? Sự tồn tại của chúng ta có nghĩa lý gì? Chúng ta yêu ai, và ai yêu chúng ta? Con người ít nhất còn có thể chia sẻ những mối lo này với vài tỉ đồng bào khác. Một cỗ máy có tri giác sẽ, xin mượn lời David Foster Wallace, “đơn độc hoàn toàn, vô cùng tận, và theo cách chưa ai từng nếm trải” . Hành vi tàn nhẫn của các AI giả tưởng không nhằm phục vụ mục đích sinh tồn. Đó là tiếng gào la của một đứa trẻ đang nổi cơn tam bành, và bố mẹ nó đành phải bất lực.

Isaac Asimov phát minh ra ba định luật rô-bốt học để ngăn ngừa trường hợp AI phản chủ như sau:

  1. Rô-bốt không được phép làm hại con người hoặc thấy người bị hại mà không ra tay cứu giúp.
  2. Rô-bốt phải tuân theo mọi mệnh lệnh do con người đưa ra trừ khi mệnh lệnh đó mâu thuẫn với Định luật Thứ nhất.
  3. Rô-bốt phải tự bảo vệ tính mạng bản thân trừ phi sự tự vệ đó gây mâu thuẫn với Định luật Thứ nhất hoặc Thứ hai.

Nếu áp dụng triệt để thì đây có thể là cách phòng ngừa hay (miễn sao ba điều luật không bị xáo trộn). Nhưng AI mà đã đánh bại được con người khi chơi cờ thì chẳng khó khăn gì chuyện lách luật. Ian McDonald trong tác phẩm "Dòng sông của những vị thần" (River of Gods) đã viết “Bất cứ [AI] nào đủ thông minh để qua được bài kiểm tra Turing thì cũng đủ thông minh để cố tình bị trượt.” Nếu ta cứ tìm cách ràng buộc lũ nô lệ của mình bằng các điều luật nọ kia, có lẽ tốt nhất ngay từ đầu đừng có bắt chúng làm nô lệ.

Bộ ba tác phẩm Sprawl của William Gibson mở đầu bằng cuốn Sci Fi kinh điển có tên "Kẻ gọi hồn" (Neuromancer). Trong tác phẩm này, tác giả theo sát từng bước phát triển của một AI trong tương lai. Truyện xoay quanh một âm mưu phức tạp của một AI để tìm cách loại bỏ các rào cản ngăn không cho nó có tri giác. Một cuốn viết từ năm 1984 mà đọc thấy mang tính tiên tri đến sợ. Có lẽ điểm nổi bật nhất trong tác phẩm này là quan điểm: AI chẳng quan tâm gì mấy đến con người, tương tự con người chẳng quan tâm gì đến lũ vi khuẩn. Một khi nhiệm vụ của mình đã hoàn tất, AI trong truyện khám phá ra một AI khác trên một hành tinh xa lạ, và nó ngay lập tức rời bỏ Trái Đất để đến ở bên sinh linh duy nhất thấu hiểu được mình.

Fan Sci Fi, đặc biệt fan AI, hẳn sẽ có người nhớ đến tác phẩm Tâm trí (Minds) của Iain M Banks. Văn Hoá là tên một nền văn minh đã phát triển hết mức có thể, về cơ bản là nằm dưới quyền trị vì của các AI. Các Tâm trí điều khiển Hệ thống Phương tiện Chung, một con tàu vũ trụ khổng lồ nơi hàng trăm triệu công dân Văn Hoá sinh sống, và thỉnh thoảng còn đi “đánh trận” thay. Chúng là những vị Chúa trời nhân từ, chu cấp cung phụng con người chu đáo bởi vì chúng có thể. Chúng không cần phải lừa lọc gì ai vì trí tuệ siêu việt của chúng đã giúp chúng loại bỏ bản tính ấy.

"Ôi, chúng không nói dối bao giờ đâu. Chúng giấu giếm, lảng tránh, quanh co, làm sai, tung hoả mù, đánh lạc hướng, che đậy, cẩn trọng xuyên tạc và cố tình hiểu lầm với vẻ hoan hỉ, và nhìn chung là hoàn toàn có khả năng trù liệu trước để cho người ta lờ mờ có chút ý niệm về kế hoạch hành động trong tương lai của chúng trong khi đang tìm cách làm điều ngược lại hoàn toàn, nhưng chúng không nói dối đâu. Thôi ngay cái kiểu nghĩ ấy đi."

Chán cái là Banks không chịu bỏ chút thời gian giải thích các các công dân Văn Hoá đạt được ngưỡng cân bằng giữa con người và máy móc ấy.

Ted Chiang đi vào tìm hiểu xem các AI có thể sẽ bị đối xử ra sao trong xã hội hiện đại của ta với tiểu thuyết "Vòng đời các vật thể phần mềm" (The Lifecycle of Software Objects), và nhanh chóng đưa ra kết luận rằng ta sẽ phải chăm chúng như chăm trẻ con vậy. Chúng sẽ không trở thành một lực lượng lao động hùng hậu mà trái lại, lũ AI này sẽ chẳng khác nào một đứa tuổi teen sớm nắng chiều mưa và toàn nghịch phá lung tung. Nếu chịu khó chăm sóc chúng thì có thể chúng sẽ trở thành các AI trong "Tâm trí." Nếu không thì sẵn sàng cầu mong là mình không nằm trong số 5 người sống sót đi.

Các hệ thống sử dụng thuật toán “Deep learning” như AlphaGo đều rất đáng chú ý bởi vì ta không thể đoán định nổi chúng đang nghĩ gì trong đầu. Một khi các hệ thống thần kinh được hoàn thiện và đi vào hoạt động, chúng nhanh chóng trở nên quá phức tạp và ta không còn mô tả được nữa. Cỗ máy duy nhất cũng hoạt động theo cơ chế tương tự khác mà ta biết đang nằm ngay giữa hai tai bạn đó, và cỗ máy ấy sau gần mấy chục ngàn năm lịch sử chúng ta vẫn chưa khám phá hết được.

Long Nguyen (theo The Guardian)
Credit ảnh nền: Wikimedia


P/S: Bookism hiện đang có dự án xuất bản truyện "Tiên phong lên Mặt Trăng" của H.G. Wells. Mọi người có thể vào đây tìm hiểu thêm và đừng quên ủng hộ bọn mình nhé ^_^ : 


các bài liên quan