Thuật toán nguy hiểm của Facebook hoạt động ra sao? – Tin Công Nghệ

Trong phiên điều trần trước Thượng viện Mỹ vào tháng 10, Frances Haugen, cựu quản lý sản phẩm Facebook chỉ trích động thái hời hợt của dịch vụ trước những nội dung không an toàn cho trẻ vị thành niên. Bà nhấn mạnh nguyên nhân đến từ thiết kế nền tảng và thuật toán xếp hạng, kiểm duyệt nội dung của Facebook.

Theo MIT Technology Review , đây là bước ngoặt đáng chú trọng so với ý kiến hiện giờ của các nhà lập pháp về chính sách kiểm duyệt của Facebook. Nhiều chuyên gia cho là quan điểm hiện tại của giới chức Mỹ đã bỏ lỡ bức họa lớn hơn mà Haugen đề cập.

“Tôi ủng hộ hùng cường các giải pháp (kiểm duyệt) không dựa theo nội dung, vì chúng sẽ bảo vệ những người dễ dẫn đến thương tổn trên thế giới”, Haugen chỉ ra sự không đồng nhất của Facebook trong khả năng phê duyệt nội dung bằng tiếng Anh và ngôn ngữ khác.

Không chỉ Haugen, nhiều nhân vật liên quan cũng có thể có ý kiến tựa như về hữu hiệu thực sự của thuật toán nội dung mà Facebook đầu tư phát triển.

Thuật toán của Facebook hoạt động ra sao?

Chúng ta thường nói “thuật toán của Facebook” như thể chỉ có một đoạn mã tồn tại. Trên thực tế, quyết định nhắm mục đích quảng cáo, hiển thị nội dung trên Facebook dựa theo hàng trăm, hoặc hàng nghìn thuật toán. Một số thuật toán phân tích thói quen người sử dụng để nâng địa thế bài đăng dựa theo sở thích, số khác phát giác các dòng nội dung bẩn như ảnh khỏa thân, spam, tiêu đề giật gân để xóa, hạ vị trí của chúng trên News Feed.

Với lượng dữ liệu khổng lồ của người dùng Facebook, thuật toán có thể tự phát triển để thu hẹp phạm vi đối tượng. Không chỉ có “nam” hay “nữ”, thuật toán có thể biết người sử dụng là “nữ từ 25-34 tuổi, thích những fanpage liên quan đến yoga” để nhắm quảng cáo cho họ. Mục tiêu được nhắm càng cụ thể, cơ hội nhấp vào quảng cáo càng cao, mang đến nhiều doanh số hơn cho nhà quảng cáo so với chi phí bỏ ra.

Nguyên tắc tương tự cũng áp dụng cho địa thế nội dung trên News Feed. Thuật toán có thể được huấn luyện để dự báo ai sẽ thích hoặc chia sẻ bài đăng với nội dung nhất định, từ đấy đẩy những bài tương tự lên địa thế cao. Ví dụ, nếu thuật toán xác định một người sử dụng yêu chó, những bài viết có ảnh chó sẽ xuất hiện cao hơn trên News Feed.

Trước khi Facebook áp dụng thuật toán máy học, các nhân viên đã sử dụng nhiều phương pháp để tăng mức độ tương tác. Họ thí nghiệm các chi tiết như sắc màu nút bấm, tần suất nhận thông báo để thu hút người dùng quay về nền tảng. Tuy nhiên, thuật toán máy học hùng mạnh hơn khi cũng có thể có thể phát triển dựa theo thói quen liên tục thay đổi của người dùng, thay vì chỉ cá nhân hóa nội dung dựa trên những gì họ nhìn thấy.

Ai quản lý thuật toán của Facebook?

Không có hàng ngũ cụ thể đảm nhiệm toàn bộ thuật toán của Facebook. Các kỹ sư phát triển và bổ sung loại hình máy học của riêng họ vào hệ thống chung. Ví dụ, đội ngũ tập trung vào nội dung bẩn chỉ huấn luyện mô hình của họ để nhận diện các loại nội dung không phù hợp.

Hướng đi đây là một phần trong văn hóa “di chuyển nhanh, phá tan mọi thứ” của Facebook. Công ty đã phát triển công cụ nội bộ mang tên FBLearner Flow, giúp các kỹ sư không có hiểu biết về máy học đơn giản phát triển mô hình thuật toán dựa theo đòi hỏi của họ. Một tài liệu nội bộ cho thấy công cụ được hơn 1/4 nhóm kỹ sư của Facebook sử dụng vào năm 2016.

Trong các tư liệu của Facebook bị rò rỉ cho giới truyền thông, nhiều nhân viên (đang làm việc hoặc đã nghỉ) của Facebook cho biết đó là một phần khiến nền tảng này sẽ không thể giải quyết triệt để nội dung bẩn. Các nhóm kỹ sư đề ra mục tiêu không trùng lặp khiến hệ thống thuật toán trở nên phức tạp, khó sử dụng đến mức không ai có thể quản lý mọi thành phần bên trong.

Krishna Gade, cựu Giám đốc Kỹ thuật Facebook cho thấy cửa hàng kiểm soát uy tín thuật toán chủ yếu dựa trên thí nghiệm và đo đạc kết quả. Một mô hình sẽ bị loại bỏ nếu chúng làm giảm mức độ tương tác quá nhiều. Trên Twitter, Gade lý giải các kỹ sư sẽ nhận thông báo vài ngày một lần nếu các chỉ số bình luận, lượt thích sụt giảm. Sau đó, họ cần tìm ra nguyên nhân và đào tạo lại thuật toán.

Thuật toán của Facebook lây lan tin giả ra sao?

Trong phiên điều trần, Haugen liên tiếp nhắc đến thuật toán của Facebook kích động lây truyền tin giả, ngôn từ thù địch và bạo lực.

“Facebook… biết – từng công nhận trước công chúng – rằng thuật toán xếp hạng nội dung dựa trên mức độ tương tác gây hiểm nguy nếu không có hệ thống bảo mật, tuy nhiên lại không triển khai hệ thống ấy cho đa số ngôn ngữ trên thế giới… Nó khiến các gia đình chia ly. Tại những nơi như Ethiopia, thuật toán đang kích động bạo lực sắc tộc theo đúng nghĩa đen”, Haugen nói.

Vào năm 2018, Facebook từng công khai thừa nhận chưa hành động đủ, khiến nền tảng bị lợi dụng để gây chia rẽ, kích động bạo lực ngoài đời. Một bản thuyết trình nội bộ cho biết cửa hàng đã nhắc đến điều này ít nhất từ năm 2016. Monica Lee, nhà khoa học dữ liệu của Facebook, thời điểm ấy đã phát hiện nền tảng không chỉ chứa lượng lớn hội nhóm mang tư tưởng cực đoan mà còn gợi ý chúng cho người dùng.

“64% thành viên tham gia các nhóm cực đoan tới từ công cụ đề nghị của chúng ta, chủ yếu đến từ tính năng 'Nhóm bạn nên tham gia' và 'Khám phá' trên Facebook”, Lee cho biết.

Năm 2017, Chris Cox, Giám đốc Sản phẩm Facebook đã lập hàng ngũ phân tích việc nhiều nhất hóa tương tác trên Facebook có góp phần gây phân cực chính trị hay không. Kết quả cho biết sự liên quan, khi đang giảm bớt nội dung phân cực cũng tác động đến tương tác. Hầu hết giải pháp được hàng ngũ đưa ra bị nghĩ rằng “anti growth” (chống lại sự tăng trưởng) khiến chúng chưa được duyệt, cuối cùng hàng ngũ này cũng giải tán.

Trong lời khai trước thượng viện Mỹ, Haugen nhiều lần nhấn mạnh trạng thái phân cực trên Facebook tệ hơn tại các khu vực không nói tiếng Anh.

“Tại Ethiopia với 100 triệu dân và 6 ngôn ngữ, Facebook chỉ bổ trợ 2 trong các chúng cho hệ thống thuật toán đầy đủ… Chiến lược tập trung vào từng ngôn ngữ, nội dung cụ thể cho AI để cứu chúng ta chắc chắn thất bại. Do đó, đầu tư vào các giải pháp không dựa theo nội dung không chỉ bảo quản tự do ngôn luận, mà còn bảo quản cuộc đời mọi người”, Haugen cho biết.

Từ tháng 10, WSJ đã đăng lên loạt bài thuộc phân mục The Facebook Files, kể cả tài liệu nội bộ cho thấy Instagram ảnh hưởng đến sức khỏe thần kinh ở người sử dụng nữ trẻ tuổi. “32% cô gái tuổi teen nói rằng họ cảm thấy tệ hại về cơ thể của mình, Instagram khiến họ cảm nhận ra tệ hại hơn”, một slide thuyết trình tháng 3/2020 cho biết.

Haugen cũng liên kết tình trạng này với hệ thống xếp hạng nội dung dựa trên chừng độ tương tác. “Nếu Instagram là động lực tích cực, chúng ta có thấy sức khỏe tinh thần của thanh thiếu niên được cải thiện rõ trong 10 năm qua chưa? Không, chúng ta thấy tỷ lệ tự tử và trầm cảm ở thanh thiếu niên leo thang”, Haugen cho biết.

Cần có giải pháp ngay lúc này

Theo MIT Technology Review , đội ngũ nghiên cứu của Facebook nhận ra người sử dụng có xu hướng đăng hoặc tương tác với nội dung buồn bã, dấu hiệu có thể của loại bệnh trầm cảm, đơn giản chuyển qua tiêu thụ nội dung tiêu cực, ảnh hưởng đến sức khỏe tâm thần. Tuy nhiên trong lúc tố cáo, Haugen khẳng định các lãnh đạo Facebook không đoái hoài đến thay đổi thuật toán.

Các kỹ sư của Facebook đã đề xuất điều tiết loại hình xếp hạng, ít hiển thị nội dung thiếu tích cực trên News Feed hơn. Tuy nhiên, không có động thái thực tế cho sự thay đổi này. Khi chừng độ tương tác làm thước đo đánh giá hiệu quả dự án, nhân viên phải thích nghi với việc bỏ lỡ phản hồi, tiếp tục làm việc với các trọng trách được chỉ định từ cấp trên.

Haugen không ủng hộ việc chia tách Facebook hoặc bãi bỏ Điều 230 trong Chuẩn mực Truyền thông ban hành năm 1996 tại Mỹ, bộ luật được tính như lá chắn bảo vệ các hãng công nghệ lớn. Thay vào đó, bà huy động điều tiết mục miễn trừ trách nhiệm trong Điều 230, tập trung vào thuật toán xếp hạng. Haugen cũng cỗ vũ Facebook trở lại cách xếp hạng bài viết trên News Feed theo trình tự thời gian.

Ellery Roberts Biddle, Giám đốc Dự án tại Ranking Digital Rights, tổ chức phi doanh thu chuyên nghiên cứu hệ thống xếp thứ hạng bài viết trên mạng xã hội, nhận định việc chỉnh sửa Điều 230 càng phải được nghĩ xét cẩn thận. “Tôi không nghĩ là nó sẽ tận gốc đạt mục đích như chúng ta kỳ vọng”, Biddle cho biết.

Để kế hoạch chỉnh sửa Điều 230 hiệu quả, Biddle bảo rằng các nhà hoạch định chủ trương và công chúng cần yêu cầu độ minh bạch cao hơn về cách hoạt động hệ thống nhắm mục tiêu quảng cáo, xếp hạng nội dung của Facebook. “Tôi hiểu ý của Haugen, nhưng nó cực khó khăn. Chúng tôi chưa thể có lời giải đáp về tính minh bạch xung quanh các thuật toán”, Biddle cho biết.

Tuy nhiên, lời tố giác của Haugen đã thu hút sự đoái hoài lớn đến vấn đề được không ít chuyên gia, nhân viên tại Facebook đã nhắc đến từ lâu. Ngoài ra, sự can thiệp của Haugen cũng mở ra viễn cảnh nếu Facebook không thể đưa thuật toán vào khuôn khổ, các nhà hoạch định chủ trương có thể giải quyết vấn đề.

“Quốc hội Mỹ cũng có thể thay đổi các quy tắc của Facebook để ngăn chặn nguy hại đang gây ra… Tôi chấp nhận gặp không may cá nhân để tiếp tục vì tin rằng chúng ta vẫn còn thời gian hành động, nhưng cần làm điều đó ngay bây giờ”, Haugen cho biết.

Theo Zing/MIT Technology Review

Thuật toán nguy hiểm của Facebook, mạng xã hội,

Nội dung Thuật toán nguy hiểm của Facebook hoạt động ra sao? – Tin Công Nghệ được tổng hợp sưu tầm biên tập bởi: napmucmayintannoi.com. Mọi ý kiến vui lòng gửi Liên Hệ cho napmucmayintannoi.com để điều chỉnh. napmucmayintannoi.com tks.