Thứ năm, 13/06/2024, 00:41

Công cụ AI có thể giúp các tòa soạn kiểm duyệt bình luận như thế nào?

Financial Times (FT) đã sử dụng một công cụ kiểm duyệt trí tuệ nhân tạo (AI) để phát hiện các bình luận phân biệt giới tính và phân biệt chủng tộc bằng nhiều ngôn ngữ phức tạp.

 

Đối với nhiều tờ báo, phần bình luận là không gian tuyệt vời để độc giả đóng góp suy nghĩ, kinh nghiệm và quan điểm đa dạng, nhưng nó cũng có thể trở thành nơi sản sinh ra sự tiêu cực với những tranh cãi và ngôn ngữ xúc phạm khiến những tiếng nói có giá trị biến mất.

Đây là thách thức mà biên tập viên cộng đồng Lucy Warwick-Ching của Financial Times phải đối mặt. FT có một đội ngũ điều hành tận tâm, nhưng với hàng trăm bài báo được xuất bản hàng tuần, họ không thể kiểm soát kịp và hầu hết các bài báo đều bị đóng bình luận. Họ cũng quyết định đóng tất cả các phần bình luận vào cuối tuần để tránh các cuộc thảo luận độc hại vượt kiểm soát khi không có ai ở bàn làm việc.

Việc thuê thêm người kiểm duyệt là quá tốn kém và việc xây dựng hệ thống kiểm duyệt của riêng mình cũng rất rắc rối. Do đó, nhóm của Warwick-Ching đã sử dụng một công cụ kiểm duyệt có sẵn từ Utopia Analytics. Công cụ này sau đó được đào tạo dựa trên 200.000 nhận xét thực của độc giả để nhận dạng cuộc thảo luận lịch sự, không tranh cãi và không lạc đề.

cong cu ai co the giup cac toa soan kiem duyet binh luan nhu the nao hinh 1

Công cụ AI có thể nhận dạng các bình luận phân biệt giới tính và phân biệt chủng tộc, bất chấp ngôn ngữ phức tạp. Ảnh: Eidosmedia

Khi mới sử dụng công cụ, FT vẫn cần kiểm tra thủ công từng bình luận mà công cụ đã duyệt. Phải mất vài tháng để công cụ đưa ra các quyết định kiểm duyệt đúng đắn. Nó hiện nắm bắt được hầu hết các bình luận phân biệt giới tính và phân biệt chủng tộc, bất chấp ngôn ngữ phức tạp mà độc giả FT sử dụng.

"Nó chưa hoàn hảo và vẫn đang trong quá trình đào tạo", Warwick-Ching nói sau 6 tháng.

Tuy nhiên, tác động của nó vẫn rất đáng kể. Trước đây, người điều hành phải mất phần lớn thời gian để lọc ra những bình luận tiêu cực. Giờ đây, AI đảm nhiệm rất nhiều công việc nặng nhọc, giúp người điều hành có thể tập trung vào việc xây dựng cộng đồng.

Không chỉ mang lại hiệu quả trong việc kiểm duyệt bình luận, công cụ AI còn thay thế con người tiếp xúc với các bình luận gây tổn hại về mặt cảm xúc. AI giờ đây hấp thụ phần lớn sự tiêu cực mà các bình luận đó mang lại, bảo vệ con người khỏi sự tiêu cực.

Quan trọng nhất, Warwick-Ching nói rằng sự xuất hiện của công cụ AI không khiến bất kỳ người điều hành nào mất việc. "Ngay từ đầu khi giới thiệu công cụ kiểm duyệt, chúng tôi đã nói rõ rằng đây không đồng nghĩa với việc giảm số lượng nhân viên mà là tạo ra một không gian để những người kiểm duyệt làm tròn công việc của mình".

Cho đến nay, công cụ AI đã mang lại kết quả tích cực. Độc giả đã gửi email nói rằng họ nhận thấy sự lịch sự được cải thiện trong phần bình luận và không có bất kỳ khiếu nại đáng kể nào về việc bình luận bị từ chối một cách bất công.

Các nhà báo cũng nhìn thấy lợi ích mà phần bình luận mang lại tăng lên đáng kể, với những đóng góp có giá trị của độc giả làm phong phú thêm câu chuyện của họ. Họ cũng thấy rằng sử dụng AI cho phép người kiểm duyệt tập trung vào những gì họ làm tốt nhất: thúc đẩy một không gian chào đón và cung cấp nhiều thông tin cho mọi người.


Theo congluan.vn


Bạn đã không sử dụng Site, Bấm vào đây để duy trì trạng thái đăng nhập. Thời gian chờ: 60 giây