(Ly Pham – 11.2020)
Dường như trong hầu hết các chủ đề, chúng ta vẫn thảo luận về các khái niệm “dân chủ”, “độc tài”, “chuyên chế”, v.v. và những trở lực của nó với cách hiểu như người ta vẫn hiểu cách đây vài chục năm.

E rằng chúng ta chưa chú ý đầy đủ đến một khía cạnh vô cùng quan trọng: tiến bộ công nghệ, cụ thể là dữ liệu lớn và trí thông minh nhân tạo ngày nay đã làm thay đổi tận gốc rễ cách tổ chức xã hội, vì thế những khái niệm nói trên giờ đây đang đương đầu với những thách thức rất khác với thập niên trước. Liệu “sự thông thái tập thể” sẽ trở nên như thế nào, “dân chủ” hay “độc tài” sẽ có khuôn mặt ra sao trước những thách thức này?

Dù muốn hay không, chúng ta cũng phải làm quen với một sự thật: Giờ đây, quyền lực không chỉ nằm trong tay người nắm vũ khí hay giới tài phiệt, mà chủ yếu nằm trong tay người làm chủ kho dữ liệu lớn và điều khiển được thông tin, nói chính xác là giới chủ của các công ty công nghệ.

“Trí tuệ nhân tạo đang âm thầm chiếm lĩnh thế giới”

Đây là nhan đề một bài phỏng vấn của Sergey Dobrynin với Michal Kosinski đăng trên đài Svoboda (tiếng Nga) tháng 12 năm 2016 do Phan Phương Đạt dịch. (tiểu mục này tóm tắt những ý chính trong bài phỏng vấn trên- phần in nghiêng). Trong bài này, Michal Kosinski, tác giả nhiều nghiên cứu về trí tuệ nhân tạo, cho rằng công nghệ Big Data và sự suy giảm của tính riêng tư (privacy) sẽ tạo ra những thay đổi toàn cầu.

“Căn cứ trên “dấu vết số” của một người thì ta có thể nói về họ chính xác những gì? Để trả lời, chúng ta phải hiểu thế nào là Psychometrics. Đó là một ngành khoa học cổ xưa, có đến hai ba nghìn năm tuổi rồi. Về bản chất, đó là khoa học về đo đạc tâm lý, một nỗ lực xác định chính xác nhất những khía cạnh tâm lý khác nhau, nhân cách, năng lực trí tuệ, hạnh phúc, thiên hướng chính trị hay tình dục của một người. Chỉ cần nhìn vào các dấu vết số là đủ: các ghi chép trên mạng xã hội, các like, lịch sử lướt web, lịch sử các từ khóa tìm kiếm. Với những dữ liệu đó người ta có thể xây dựng chân dung tâm lý một người chính xác đến bất ngờ.

Và tất cả những thông tin đó đang được mua bán. Đâu đó ngoài chợ đang có người bán hồ sơ tâm lý của bạn, lại còn rất chính xác. Đã có một nghiên cứu thú vị cho biết chỉ cần chục like để hệ thống có thể biết về nhân cách của bạn còn tốt hơn cả những gì đồng nghiệp bạn biết, còn với 230-240 like thì máy tính sẽ biết rõ bạn hơn bạn đời của bạn. “Biết rõ hơn” có nghĩa là nếu yêu cầu máy tính điền bảng hỏi tâm lý của một người thì nó sẽ điền chính xác hơn so với vợ anh ta.

Chúng ta ko còn xa lạ gì với quảng cáo hướng mục tiêu của các nền tảng XH như FB, khi ta chỉ cần gõ chữ “giày” thì quảng cáo các loại giày xuất hiện tràn ngập. Điều đó là bình thường và thật tiện lợi. Nhưng nếu bạn vào trang Facebook của mình và thấy quảng cáo hay thông tin được làm riêng cho bạn dựa trên hồ sơ tâm lý chi tiết được xây dựng mà bạn không hề biết và đồng ý, nhằm thao túng, tác động đến sự lựa chọn quan điểm của bạn thì điều đó không còn bình thường nữa.

Chúng ta cần nhận thức là có công nghệ như vậy, và bảo vệ bản thân khỏi nó là bất khả. Anh có thể ngừng sử dụng Facebook, nhưng sẽ vẫn dùng email. Thậm chí nếu định dùng bồ câu đưa thư thì vẫn không thoát khỏi giao dịch thẻ. Có thể, các quốc gia sẽ ban hành luật hạn chế các phương pháp đó, nhưng có lẽ cũng không ăn thua. Chúng ta cần phải ý thức rằng không còn cái gọi là tính riêng tư nữa. Thay vì bước vào trận đánh tiếp theo bảo vệ quyền riêng tư, cần phải thú nhận rằng ta đã thua cả cuộc chiến, và tốt hơn là tìm cách làm sao để thế giới là môi trường thân thiện với con người khi không còn gì riêng tư nữa.

Kosinski cho rằng cuộc chiến bảo vệ tính riêng tư đã thất bại. Nhưng vấn đề không chỉ ở chỗ những người xung quanh biết về các bí mật của ai đó và bắt đầu đối xử khác với người đó, mà cả ở chỗ đã xuất hiện một vũ khí mạnh để chi phối con người. Thật đáng sợ khi chỉ trong vài cái click có thể thay đổi cuộc sống cả triệu người. Ngày trước để gây ảnh hưởng đến hàng triệu người, bạn phải là một nhà độc tài, còn bây giờ bạn có thể chỉ là một kỹ sư làm việc ở một công ty internet nào đó. Miễn là bạn nắm được một khối dữ liệu khổng lồ“.

Điều này có quan hệ gì với dân chủ/độc tài/chuyên chế?

Hãy hình dung một thế giới trong đó tất cả đều trần truồng, không còn ai có áo quần gì nữa. Đó chính là thế giới chúng ta đang sống. Big data và AI đã mang lại cho các chế độ độc tài một vũ khí khủng khiếp, và đang đe doạ biến các chính phủ dân chủ cũng trở thành độc tài như thế.
Dưới đây là một đoạn dịch trong bài “Liệu nền dân chủ có thể sống sót trong thời đại big data và AI?”trên trang Scientific American năm 2017.

“Cuộc cách mạng kỹ thuật số đang diễn ra mạnh mẽ. Nó sẽ thay đổi thế giới của chúng ta như thế nào? Số lượng dữ liệu chúng ta sản xuất tăng gấp đôi mỗi năm. Nói cách khác: chỉ trong một năm, chúng ta đã tạo ra một khối lượng dữ liệu nhiều bằng toàn bộ dữ liệu đã tạo ra trong toàn bộ lịch sử loài người cho đến năm đó. Mỗi giây chúng ta tạo ra hàng trăm nghìn tìm kiếm trên Google và các bài đăng trên Facebook. Những thứ đó chứa đựng thông tin tiết lộ cách chúng ta suy nghĩ và cảm nhận. Chẳng bao lâu nữa, những thứ xung quanh chúng ta, thậm chí có thể là quần áo của chúng ta, cũng sẽ được kết nối với Internet. Người ta ước tính rằng trong thời gian 10 năm sẽ có 150 tỷ cảm biến đo lường được nối mạng, gấp 20 lần con người trên Trái đất. Sau đó, lượng dữ liệu sẽ tăng gấp đôi sau mỗi 12 giờ. Nhiều công ty đã và đang cố gắng biến khối Dữ liệu lớn này thành Tiền.

Thực tế, lĩnh vực trí tuệ nhân tạo đang tạo ra những bước tiến ngoạn mục. Đặc biệt, nó đang góp phần vào việc tự động hóa phân tích dữ liệu. Trí tuệ nhân tạo giờ đây có khả năng học hỏi, từ đó liên tục phát triển bản thân. Các thuật toán giờ đây có thể nhận dạng ngôn ngữ và mẫu viết tay gần như tốt như con người và thậm chí hoàn thành một số nhiệm vụ tốt hơn. Nó có thể mô tả nội dung của ảnh và video. Ngày nay 70% tất cả các giao dịch tài chính được thực hiện bằng các thuật toán. Nội dung tin tức, một phần, được tạo tự động. Tất cả những điều này đều gây ra hậu quả kinh tế triệt để: trong 10 đến 20 năm tới, khoảng một nửa số việc làm ngày nay sẽ bị đe dọa bởi các thuật toán. 40% trong số 500 công ty hàng đầu hiện nay sẽ biến mất trong một thập kỷ.

Những người có tầm nhìn xa trông rộng về công nghệ, như Elon Musk, Bill Gates và người đồng sáng lập Apple, Steve Wozniak, đang cảnh báo rằng siêu trí tuệ là mối nguy hiểm nghiêm trọng cho nhân loại, thậm chí có thể nguy hiểm hơn vũ khí hạt nhân.

Một điều rõ ràng là: cách thức chúng ta tổ chức nền kinh tế và xã hội sẽ thay đổi một cách căn bản. Chúng ta đang trải qua sự biến đổi lớn nhất kể từ khi Chiến tranh thế giới thứ hai kết thúc; Sau quá trình tự động hóa sản xuất và tạo ra ô tô tự lái, tiếp theo là quá trình tự động hóa của xã hội. Với điều này, xã hội đang ở ngã ba đường, hứa hẹn những cơ hội lớn nhưng cũng không ít rủi ro. Nếu chúng ta đưa ra những quyết định sai lầm, nó có thể đe dọa những thành tựu lịch sử vĩ đại nhất của chúng ta.”

Nhiều người biết rằng hiệu quả chống dịch vừa qua của Trung Quốc phần lớn là dựa vào hệ thống giám sát công dân qua camera và kiểm soát dữ liệu, trong đó có cái gọi là “Điểm số công dân”, một thông số dùng để xác định một công dân nào là “tốt” hay “xấu” theo quan điểm của chính quyền, dựa vào đó họ có thể vay được tiền, xin việc làm hoặc thị thực du lịch, thậm chí là mua vé máy bay.

Điểm số công dân được xây dựng dựa trên thu thập thông tin của người dùng internet. Một bình luận “phản động” có thể làm điểm số một người bị đánh tụt xuống, tương tự như khi họ quỵt nợ hay ăn cắp chẳng hạn. Một mặt điều này mang lại ích lợi, ví dụ rõ ràng nhất là khi chống dịch. Một người bị nhiễm, có mà chạy đàng trời. Bạn có tắt điện thoại thì ló mặt đi đâu cũng sẽ có camera nhận dạng. AI còn siêu đến nỗi, bạn có mang khẩu trang cũng không thoát nhé, vì nó nhận ra bạn qua cử chỉ, dáng đi. Nhưng mặt khác, nó tạo ra một nguy cơ quá lớn, một “nhà tù số” trong đó không còn ai có được một mảy may tự do nào nữa.

Và bạn nghĩ rằng chỉ ở các xứ độc tài mới vậy ư? Không hề nhé. Phương Tây đang trên con đường tương tự, chỉ có một điểm khác là cho đến giờ phút này, kho dữ liệu đó chưa chính thức nằm trong tay chính quyền, và luật pháp chưa cho phép chính quyền can thiệp vào việc sử dụng nó để đàn áp công dân. Nó vẫn còn đang nằm trong tay các công ty công nghệ lớn, nơi mà quyền năng ngày càng khủng khiếp. Tất cả chúng ta đều là trung tâm của sự giám sát có tổ chức, đó là một sự thật ngày càng rõ ràng hơn.

Điều này có ý nghĩa gì? Văn hoá phương Tây dựa trên ý niệm về cá nhân. Khi không còn sự riêng tư, thì sẽ không còn cá nhân nữa. Trên thực tế, công nghệ đã được sử dụng với mục đích đưa hành động của công chúng vào một khuôn khổ do giới cai trị (chính trị gia và các nhà tư bản lớn) quyết định, bằng cách thao túng quan điểm và quyết định của họ.

Bài báo trên Scientific American viết: “Việc thao túng các quyết định bằng các thuật toán mạnh mẽ đã làm suy yếu cơ sở của “trí tuệ tập thể”, vốn là cái có thể linh hoạt thích ứng với những thách thức trong thế giới phức tạp của chúng ta. Để trí tuệ tập thể hoạt động được, thì việc tìm kiếm thông tin và ra quyết định của các cá nhân phải diễn ra độc lập. Tuy nhiên, nếu các phán đoán và quyết định của chúng ta được xác định trước bởi các thuật toán, thì điều này thực sự dẫn đến việc tẩy não mọi người. Những con người thông minh bị xuống cấp chỉ còn là những sinh vật nhận lệnh, và tự động phản ứng với các kích thích”.

Các công ty công nghệ đã sử dụng hồ sơ tâm lý của bạn để tạo ra một thứ được gọi là”bong bóng lọc” xung quanh bạn, đem đến cho bạn những thông tin mà họ biết rằng sẽ tác động đến quan điểm và quyết định của bạn. Đó chính là một loại nhà tù kỹ thuật số cho suy nghĩ của chúng ta. Nghĩ mà xem, làm thế nào mà sự sáng tạo và tư duy độc lập lại có thể tồn tại được trong những điều kiện bị chi phối như thế? Chính xác là, bạn đang suy nghĩ và hành động theo đúng cái cách mà người ta muốn. Một xã hội được kiểm soát từ trên xuống dưới như thế, về nguyên tắc chính là một chế độ toàn trị nhưng nó còn khủng khiếp hơn mọi chế độ toàn trị trước đây, bởi vì nó điều khiển không chỉ hành vi, mà còn là suy nghĩ và cảm xúc của chúng ta.

Tương lai của chúng ta

Dân chủ là một hình thức quản trị xã hội được xây dựng trên nền tảng người dân có quyền lựa chọn phương thức quản lý và người đại diện của họ. Mỗi người có vai trò gì và quyền lực được chia sẻ như thế nào giữa họ là những vấn đề được thoả thuận bằng một khế ước cốt lõi được gọi là hiến pháp. Những điều này liệu còn có ý nghĩa gì khi người dân không còn khả năng suy nghĩ và hành động một cách tự do, bởi vì tâm trí họ đã bị giam trong cái nhà tù kỹ thuật số nói trên?

Ở Trung Quốc, nếu họ thoát ra được cái nhà tù số ấy để suy nghĩ như một con người, đã có sẵn công cụ trừng phạt họ: với hệ thống “điểm tín dụng xã hội”, họ sống không bằng chết, không khác gì một con chuột ẩn nấp trong hang, vì không thể xin được việc làm, không thể mở tài khoản ngân hàng, thậm chí không mua được vé máy bay, không được cấp bằng lái.

Điều này chưa xảy ra với mức độ tương tự ở phương Tây, vì cho đến nay, truyền thống văn hoá phương Tây không thể dung nạp được cách “trừng phạt” như thế. Tuy nhiên, quan sát vai trò của truyền thông và mạng xã hội trong bầu cử Mỹ lần này, không thể không lo ngại cho tương lai của các nền dân chủ.