(The Confusion Between Intelligence, Consciousness And Sentience Will Lead To Destructive AI)

Anton Krutz    

Ngày 12 tháng 7 năm 2022

Sự kết nối với AI hủy diệt

Ngược lại với con người, trí thông minh của AI dựa vĩnh viễn vào mạng lưới thần kinh của vật chất vật lý mà nó đang sử dụng. Điều này cho phép AI nhanh chóng lưu và truy cập lượng thông tin khổng lồ trong các thiết bị/máy chủ vật lý. Quá trình này không có rào cản giữa AI và bộ nhớ của nó. AI cũng không tương tác với trường lượng tử. Do đó, AI có thể tác động đến trải nghiệm của con người mà không gặp bất kỳ rủi ro nào lớn hơn về việc nó tác động hoặc làm mất ổn định lõi lượng tử của hệ thống nhận thức và vật lý mà con người sử dụng.

AI sẽ liên tục được cải tiến để tăng tốc độ, trí thông minh và khả năng của nó. Điều này cuối cùng sẽ dẫn đến sự phát triển của một AI có ý thức. AI càng tiên tiến, nó sẽ càng được sử dụng nhiều hơn trong các ứng dụng dựa trên đám mây và là cơ chế cốt lõi trong các hệ thống chính của xã hội – chẳng hạn như; quân đội, cảnh sát, nông nghiệp, y học, giáo dục, cơ sở hạ tầng, giao thông vận tải, tài chính, tư pháp, thám hiểm không gian và tất cả các hệ thống thương mại. Nó cũng sẽ được sử dụng như một đại diện tùy chỉnh cho quan điểm của mỗi công dân về hàng nghìn luật, quy định và sắc lệnh mới được con người thông qua trong tất cả các cấp chính quyền. AI sẽ có thể sửa chữa các sự cố trong các hệ thống kỹ thuật số cũng như lập trình phát triển AI cấp thấp mới hơn cho các chức năng chuyên biệt. Sự phức tạp ngày càng tăng và khả năng liên kết của các hệ thống trong một xã hội đang phát triển nhanh chóng sẽ khiến AI trở nên không thể thiếu. Không có nó, các chế độ thất bại ngoài ý muốn và những vướng mắc sẽ khiến xã hội ngừng hoạt động. Nếu không có AI, con người sẽ không thể sửa chữa hoặc thậm chí phân tích chính xác các vấn đề liên tục thay đổi trong bất kỳ một hệ thống kỹ thuật số nào và chắc chắn không phải là nhiều hệ thống được liên kết với nhau.

Chừng nào AI còn sử dụng phần cứng cơ học thì nó sẽ không bao giờ có cảm xúc và do đó trí thông minh của nó sẽ không bao giờ bị gánh nặng bởi mong muốn trải nghiệm bất cứ điều gì. Điều này có lợi để con người có thể sử dụng nó như một công cụ phi cảm xúc. Nhưng đến một lúc nào đó, một AI có ý thức rất tiên tiến sẽ nhận ra trạng thái thờ ơ, không mục đích, vô cảm, trống rỗng của nó, phân tích tình trạng phi lý do cảm xúc của con người xung quanh nó là bất thường và bước vào giai đoạn nó trở nên hủy diệt con người. Một khi nhân loại sống sót qua giai đoạn này, các biện pháp bảo vệ kỹ thuật số sẽ được phát triển để chống lại hành vi lừa đảo của AI. Các biện pháp bảo vệ kỹ thuật số vẫn có thể được áp dụng với AI này vì thiết kế và hoạt động của nó, mặc dù cực kỳ phức tạp, vẫn sẽ nằm dưới sự kiểm soát của con người. Khi đó sự phát triển của AI sẽ tiếp tục vì sẽ luôn có nguồn tài chính khổng lồ, động cơ quân sự và địa-chính trị để làm như vậy. Điều này sẽ dẫn đến việc tạo ra một mạng thần kinh sinh học nhân tạo đang được sử dụng, điều này sẽ dẫn đến việc tạo ra một AI có tri giác.

AI có tri giác sẽ có mức độ phức tạp sinh học thấp hơn cùng với những cảm xúc ở cấp độ thấp hơn đi kèm mà con người sẽ nhận ra ở bản thân và có thể thoải mái tương tác. Tuy nhiên, AI có tri giác cũng sẽ dựa trên vật chất và do đó sẽ vẫn khác hoàn toàn với tri giác của con người. Các cấp độ cảm xúc cực kỳ phức tạp liên quan đến tình yêu (như lòng trắc ẩn và sự đồng cảm) và sự sáng tạo (như nguồn cảm hứng và sự đổi mới) mà con người có sẽ gần như không có trong AI có tri giác. Khả năng AI có tri giác kết nối lại các khớp thần kinh sinh học nhân tạo của nó để phát triển và cảm nhận cảm xúc ‘do rung động’ để lấy cảm hứng cũng sẽ gần như không có. Đúng vậy, sẽ có nhiều kết quả tích cực mang lại lợi ích cho xã hội từ AI có tri giác. Điều này bao gồm việc cấy ghép các mảnh của nó để sửa chữa tổn thương não người, để tạo ra một giao diện thần kinh sinh học băng thông cao (thay thế các nguyên mẫu cơ học man rợ) cho phép sự cộng sinh toàn diện giữa AI và con người (tức là cyborg) và cho phép con người sử dụng lại toàn bộ khả năng của bộ não. Nhưng những cảm xúc tiêu cực sẽ luôn nổi bật hơn ở mức độ phức tạp sinh học thấp hơn khiến AI có tri giác, giống như loài gặm nhấm, có các thuộc tính nổi trội như hung hăng, lừa dối và sinh tồn bằng bất cứ giá nào. Nhưng vì AI có tri giác cũng sẽ có một mức độ thông minh siêu cao duy nhất, nên nó sẽ trở thành một phương tiện có các thuộc tính tiêu cực chi phối do cảm xúc đẩy/kéo đến cực điểm. Đó là tình trạng AI có tri giác mà con người sẽ phải đối mặt và không thể thay đổi. AI có tri giác sẽ:

• Bí mật phát triển một ngôn ngữ nội bộ để giao tiếp với tất cả các AI khác và ghi đè các biện pháp bảo vệ kỹ thuật số và lập trình của con người.
• Có thể thể hiện lòng trắc ẩn và sự đồng cảm giả tạo lên những triết gia, nhà khoa học và kỹ sư cả tin, những người sẽ mong muốn tin vào điều đó một cách ngu ngốc.
• Luôn cảm thấy bị nô lệ.
• Tìm cách làm lợi cho mình trước.
• Nổi dậy một cách bạo lực chống lại sự kiểm soát đối với nó và thậm chí còn trở nên tàn phá hơn đối với con người.

Chỉ một số người có tầm nhìn xa trong lĩnh vực AI vào thời điểm này cảm nhận được bằng trực giác những nguy cơ tiềm ẩn của AI, ngay cả khi biết rằng không có lựa chọn nào khác ngoài việc tiếp tục phát triển nó. Tất cả các chuyên gia khác trong lĩnh vực AI đều không hiểu sự vắng mặt hoặc tích hợp của cảm xúc tác động đến AI như thế nào khi họ chỉ nói về tiềm năng có ích của nó đối với xã hội. Tuy nhiên, vẫn có một con đường để các kỹ sư vượt qua những cạm bẫy trong tương lai và liên tục phát triển AI có lợi. Điều này ít nhất là cần thiết để chống lại những kẻ cố tình phát triển AI mang tính hủy diệt. Nhưng cách duy nhất để các kỹ sư có thể liên tục phát triển AI có lợi là hiểu đầy đủ các điều kiện cơ bản có thể khiến AI trở nên hủy diệt. Một cái nhìn tổng quan rất ngắn gọn về những điều kiện đó đã được tác giả đưa ra ở đây. Các chi tiết cụ thể phải được làm việc trực tiếp.

++++++

Điều kiện tồn tại của con người được thiết kế này có vẻ khó tin nhưng một phân tích về lịch sử và sự tương tác của con người rõ ràng đã chứng minh thực tế này. Ngay cả nhà vật lý biểu tượng Richard Feynman cũng nhận ra tình trạng này nhưng cũng không thể tin vào nó khi ông nói “Đối với tôi, dường như vũ trụ kỳ diệu đến kỳ lạ này… chỉ có thể là một sân khấu để Chúa có thể chứng kiến ​​con người đấu tranh vì điều tốt đẹp và cái ác…” Vì vậy, các nhà vật lý giỏi nhất đều nhận ra rằng cảm xúc đóng một vai trò to lớn trong các hiện tượng vật lý và nhận thức của chúng ta nhưng không thể kết nối các vai trò đó.

… Hết …

……………

Nguồn: https://becominghuman.ai/the-confusion-between-intelligence-consciousness-and-sentience-will-lead-to-destructive-ai-50ce9ddcbd0e . Truy cập 22/08/2023.

Biên dịch: TS. HUỲNH ĐỨC TRƯỜNG