Sự phân chia kỹ thuật số ngày càng tăng

10:20 AM 04/05/2019 In bài viết

Mọi khía cạnh của cuộc sống đều có thể được hướng dẫn bởi các thuật toán trí tuệ nhân tạo (AI) - từ việc chọn con đường nào để đi làm vào buổi sáng, đến quyết định hẹn hò với ai, đến các vấn đề về pháp lý và tư pháp phức tạp như chính sách dự đoán.

Các công ty công nghệ lớn như Google và Facebook sử dụng trí tuệ nhân tạo để có được những hiểu biết sâu sắc về kho dữ liệu khách hàng chi tiết của họ. Điều này cho phép họ kiếm tiền từ những sở thích của người dùng, thông qua các thực tiễn như nhắm mục tiêu vi mô, một chiến lược được các nhà quảng cáo sử dụng để nhắm mục tiêu hẹp đến các nhóm người dùng cụ thể.

Và ngược lại, ngày càng nhiều người tin tưởng vào các nền tảng và thuật toán hơn chính phủ và xã hội công dân của họ.

Một nghiên cứu vào tháng 10/2018 cho thấy mọi người thể hiện sự đánh giá cao thuật toán, đến mức mà họ có xu hướng dựa vào lời khuyên đến từ một thuật toán hơn là từ con người.

Trước đây, các chuyên gia công nghệ đã lo lắng về sự phân chia kỹ thuật số (digital divide) giữa những người có thể truy cập máy tính và internet và những người không thể. Các hộ gia đình ít tiếp cận với các công nghệ kỹ thuật số sẽ gặp bất lợi về khả năng kiếm tiền và tích lũy các kỹ năng.

Nhưng khi các thiết bị kỹ thuật số sinh sôi nảy nở, sự phân chia không còn chỉ là về quyền truy cập. Làm thế nào để mọi người đối phó với tình trạng quá tải thông tin và vô số các quyết định thuật toán thấm vào mọi khía cạnh của cuộc sống của họ?

Những người dùng thông thái đang điều hướng khỏi các thiết bị và nhận thức được các thuật toán ảnh hưởng đến cuộc sống của họ như thế nào. Trong khi đó, người tiêu dùng có ít thông tin thậm chí còn dựa nhiều hơn vào thuật toán để hướng dẫn quyết định của họ.

Bí mật đằng sau trí tuệ nhân tạo

Lý do chính cho sự phân chia kỹ thuật số mới là rất ít người hiểu các thuật toán hoạt động như thế nào. Đối với đa số người dùng, các thuật toán được xem như một hộp đen.

Các thuật toán trí tuệ nhân tạo lấy dữ liệu, điều chỉnh chúng theo mô hình toán học và đưa ra dự đoán, từ những bài hát mà người dùng có thể thích nghe, cho đến dự đoán mức án mà một tên tội phạm phải chịu. Những mô hình này được phát triển và điều chỉnh dựa trên dữ liệu trong quá khứ và sự thành công của các mô hình trước đó.

Hầu hết mọi người - thậm chí đôi khi chính các nhà thiết kế thuật toán - không thực sự biết những gì bên trong mô hình.

Các nhà nghiên cứu từ lâu đã quan tâm đến sự công bằng của thuật toán. Chẳng hạn, công cụ tuyển dụng dựa trên trí tuệ nhân tạo của Amazon, hóa ra lại loại bỏ các ứng cử viên nữ. Hệ thống của Amazon đã trích xuất có chọn lọc các từ ngữ được định giới tính ngầm - những từ ngữ mà nam giới có khả năng sử dụng nhiều hơn trong lời nói hàng ngày.

Các nghiên cứu khác đã chỉ ra rằng các thuật toán tư pháp mang thiên kiến ​​chủng tộc, thường kết án các bị cáo da đen nặng hơn các bị cáo khác.

Là một phần của Quy định bảo vệ dữ liệu chung được phê duyệt gần đây tại Liên minh châu Âu, mọi người có quyền giải thích về các tiêu chí mà thuật toán sử dụng trong các quyết định của họ. Luật này đối xử với quá trình ra quyết định thuật toán như một cuốn sách công thức. Hãy nghĩ rằng nếu bạn hiểu công thức, bạn có thể hiểu thuật toán ảnh hưởng đến cuộc sống của mình như thế nào.

Trong khi đó, một số nhà nghiên cứu trí tuệ nhân tạo đã thúc đẩy các thuật toán công bằng, có trách nhiệm và minh bạch, cũng như có thể giải thích được, có nghĩa là họ nên đi đến quyết định của mình thông qua các quy trình mà con người có thể hiểu và tin tưởng.

Những gì mà sự minh bạch có thể mang lại

Sự minh bạch sẽ có ảnh hưởng gì? Trong một nghiên cứu, các sinh viên được xếp loại bằng một thuật toán, và đưa ra các mức độ giải thích khác nhau về cách chấm điểm.

Các sinh viên có các giải thích minh bạch hơn thực sự tin tưởng thuật toán ít hơn. Điều này, một lần nữa, cho thấy một sự phân chia kỹ thuật số: Nhận thức về thuật toán không dẫn đến sự tự tin hơn trong hệ thống.

Nhưng sự minh bạch không phải là thuốc chữa bách bệnh. Ngay cả khi quy trình tổng thể của một thuật toán được phác thảo, các chi tiết vẫn có thể quá phức tạp để người dùng có thể hiểu được. Tính minh bạch sẽ giúp chỉ những người dùng đủ hiểu biết để nắm bắt được sự phức tạp của các thuật toán.

Ví dụ, vào năm 2014, Ben Bernanke, cựu chủ tịch của Cục Dự trữ Liên bang, ban đầu đã bị từ chối việc sử dụng một hệ thống để xác định một khoản tái cấp vốn thế chấp có được đồng ý hay không. Hầu hết các cá nhân đang nộp đơn xin tái cấp vốn thế chấp như vậy sẽ không hiểu làm thế nào các thuật toán có thể xác định uy tín tín dụng của họ.

Ít sự tham gia mặc dù con người biết thuật toán ảnh hưởng đến cuốc sống của họ

Trong khi các thuật toán ảnh hưởng rất nhiều đến cuộc sống của người dân, chỉ một phần nhỏ người dân đủ hiểu biết để tham gia đầy đủ vào cách thuật toán ảnh hưởng đến cuộc sống của họ.

Không có nhiều số liệu thống kê về số lượng người biết sử dụng thuật toán. Các nghiên cứu đã tìm thấy bằng chứng về sự lo lắng về thuật toán, dẫn đến sự mất cân bằng quyền lực sâu sắc giữa các nền tảng triển khai thuật toán và những người dùng phụ thuộc vào chúng.

Một nghiên cứu về việc sử dụng Facebook cho thấy rằng, khi những người tham gia biết về thuật toán trên Facebook để quản lý nguồn cấp tin tức, khoảng 83% người tham gia đã sửa đổi hành vi của họ để cố gắng tận dụng thuật toán, trong khi khoảng 10% giảm sử dụng Facebook.

Một báo cáo tháng 11/2018 từ Trung tâm nghiên cứu Pew cho thấy, phần lớn công chúng có mối quan tâm đáng kể về việc sử dụng thuật toán cho các mục đích sử dụng cụ thể. Báo cáo phát hiện ra rằng 66% nghĩ rằng sẽ không công bằng cho các thuật toán để tính điểm tài chính cá nhân, trong khi 57% có suy nghĩ tương tự về việc sàng lọc sơ yếu lý lịch tự động.

Một phần nhỏ các cá nhân thực hiện một số kiểm soát về cách thuật toán sử dụng dữ liệu cá nhân của họ. Ví dụ: nền tảng Hu-Manity cho phép người dùng tùy chọn kiểm soát lượng dữ liệu của họ được thu thập.

Từ điển bách khoa trực tuyến Everipedia cung cấp cho người dùng khả năng trở thành một bên liên quan trong quá trình khám phá thu thập thông tin, điều đó có nghĩa là người dùng cũng có thể kiểm soát cách tổng hợp thông tin và trình bày cho họ.

Tuy nhiên, phần lớn các nền tảng không cung cấp sự linh hoạt như vậy cho người dùng cuối của họ, hoặc quyền chọn cách thuật toán sử dụng tùy chọn của họ trong việc quản lý nguồn cấp tin tức của họ, hoặc giới thiệu nội dung cho họ. Nếu có nhiều tùy chọn, người dùng có thể không biết về chúng.

Khoảng 74% người dùng Facebook cho biết trong một cuộc khảo sát: họ không biết nền tảng này mô tả đặc điểm sở thích cá nhân của họ như thế nào.

Sự lựa chọn

Theo quan điểm của các chuyên gia, kỹ năng kỹ thuật số mới không sử dụng máy tính hoặc truy cập internet, mà là sự hiểu biết và đánh giá hậu quả của lối sống luôn luôn gắn bó (always-plugged-in lifestyle).

Lối sống này có tác động đối với cách mọi người tương tác với người khác; về khả năng chú ý đến thông tin mới của họ; và về sự phức tạp của các quá trình ra quyết định của họ.

Sự lo lắng về thuật toán ngày càng tăng bởi những thay đổi song song trong nền kinh tế. Một nhóm nhỏ các cá nhân đang nắm bắt lợi ích từ tự động hóa, trong khi nhiều công nhân đang ở trong một vị trí bấp bênh.

Từ chối sử dụng thuật toán là một điều xa xỉ - và một ngày nào đó có thể là biểu tượng của sự sung túc chỉ dành cho một số người được chọn. Câu hỏi đặt ra là những tác hại có thể đo lường được sẽ như thế nào đối với những người ở sai chiến tuyến của sự phân chia kỹ thuật số.

Ngọc Huyền