Mặt trái của ChatGPT

Những câu chuyện trong bóng tối của OpenAI vẫn là thách thức cho giới công nghệ lẫn nhà chức trách.

Chatbot trí tuệ nhân tạo (AI) có thể viết ra hầu hết mọi vấn đề, từ việc viết một bức thư tỏ tình ngày Valentine làm rung động lòng người, đến mô tả các định lý toán học phức tạp bằng ngôn ngữ mà một đứa trẻ năm tuổi có thể hiểu được. Thế nhưng, những câu chuyện trong bóng tối của OpenAI vẫn là thách thức cho giới công nghệ lẫn nhà chức trách.

Công ty tạo ra ChatGPT, OpenAI, hiện được cho là đang đàm phán với các nhà đầu tư để huy động vốn với mức định giá 29 tỷ USD, bao gồm khoản đầu tư tiềm năng 10 tỷ USD của Microsoft. Điều đó sẽ biến OpenAI, được thành lập tại San Francisco vào năm 2015, trở thành một trong những công ty AI có giá trị nhất thế giới, khởi nghiệp thành công nhất.

Công nghệ dựa trên mồ hôi lao động châu Phi

Nhưng thành công nào cũng có mặt trái. Trong một điều tra mới đây, Time phát hiện ra rằng trong nỗ lực lọc và loại bỏ các thông tin độc hại khỏi ChatGPT, OpenAI đã sử dụng lao động Kenya với thù lao ít hơn 2 USD mỗi giờ.

Phiên bản trước của ChatGPT, GPT-3, đã thể hiện khả năng ấn tượng để xâu chuỗi các đoạn thông tin lại với nhau. Nhưng ban đầu GPT-3 rất khó tiếp cận thị trường vì ứng dụng này cũng có xu hướng đưa ra những nhận xét bị trộn nội dung bạo lực, phân biệt giới tính và phân biệt chủng tộc. Điều này là do AI đã được xào nấu thông tin trên hàng trăm tỷ dữ liệu đủ loại ngôn ngữ thu thập được từ Internet. Tập dữ liệu khổng lồ đó là lý do tạo nên khả năng ấn tượng của GPT-3, nhưng cũng là điểm chí tử của nó. Đơn giản vì thế giới internet chứa đầy độc tính và sai lệch, nên không có cách nào dễ dàng để lọc các phần đó khỏi dữ liệu của GPT-3. Ngay cả một nhóm gồm hàng trăm người cũng phải mất hàng chục năm để rà soát bộ dữ liệu khổng lồ bằng cách thủ công. Chỉ bằng cách xây dựng một cơ chế an toàn bổ sung do AI cung cấp, OpenAI mới có thể hạn chế tác hại đó, tạo ra một chatbot phù hợp để khá yên tâm sử dụng hiện giờ.

Để xây dựng hệ thống an toàn đó, OpenAI đã học hỏi kinh nghiệm của các công ty khởi nghiệp truyền thông xã hội đi trước như Facebook. Bí quyết là xây dựng các AI có khả năng phát hiện nội dung độc hại và loại bỏ khỏi nền tảng ứng dụng. Tiền đề rất đơn giản: cung cấp cho AI các ví dụ về ngôn từ bạo lực, tục tĩu, kích động để AI có thể học cách phát hiện ra chúng. Trình phát hiện sau đó được tích hợp vào ChatGPT để kiểm tra và lọc những thông tin độc hại ra trước khi đến tay người dùng. Để lên danh sách những nội dung chứa thông tin tiêu cực cần lọc, OpenAI đã gửi hàng chục ngàn đoạn văn bản đến một công ty gia công phần mềm ở Kenya, bắt đầu từ tháng 11/2021. Phần lớn văn bản đó dường như được lấy từ những nơi tối tăm nhất của Internet, đề cập trần trụi việc lạm dụng tình dục trẻ em, giết người, tự tử, tra tấn, tự làm hại bản thân và loạn luân…

Đối tác gia công phần mềm của OpenAI là Sama, một công ty có trụ sở tại San Francisco.Sama sử dụng công nhân ở Kenya, Uganda và Ấn Độ để lọc dữ liệu độc hại cho các khách hàng ở Silicon Valley như Google, Meta và Microsoft.Sama cũng tự quảng bá mình là một công ty “AI có đạo đức” và tuyên bố đã giúp hơn 50.000 người thoát nghèo.

Những người lọc dữ liệu cho OpenAI do Sama tuyển dụng được trả mức lương từ khoảng 1,32 đến 2 USD mỗi giờ tùy thuộc vào thâm niên và hiệu suất. Đối với câu chuyện này, TIME cho biết đã xem xét hàng trăm trang tài liệu nội bộ của Sama và OpenAI, bao gồm cả phiếu lương của công nhân và phỏng vấn bốn nhân viên Sama làm việc trong dự án. Tất cả các nhân viên đều nói với điều kiện giấu tên vì lo ngại ảnh hưởng sinh kế của họ.

Câu chuyện về những người công nhân đã tạo ra ChatGPT có thể cung cấp một cái nhìn thoáng qua về các điều kiện trong lĩnh vực rất quan trọng nhưng ít được nhắc đến của ngành công nghiệp AI. Theo Partnership on AI, một liên minh các tổ chức AI mà OpenAI là thành viên thì “Mặc dù các công nhân xử lý dữ liệu này đóng vai trò nền tảng, nhưng ngày càng có nhiều nghiên cứu cho thấy điều kiện làm việc mà họ phải đối mặt rất bấp bênh”. Đồng thời, liên minh các tổ chức AI lý giải: “Đây có thể là kết quả của những nỗ lực nhằm che giấu sự phụ thuộc của AI vào lực lượng lao động đông đảo này chỉ để tôn vinh hiệu quả của công nghệ”.

Trong một tuyên bố, người phát ngôn của OpenAI đã xác nhận rằng các nhân viên của Sama ở Kenya đã đóng góp công sức vào một công cụ chuyên để phát hiện nội dung độc hại và công cụ này cuối cùng đã được tích hợp vào ChatGPT.Tuyên bố cũng nói rằng công việc này đã góp phần vào nỗ lực loại bỏ dữ liệu độc hại khỏi bộ dữ liệu chọn lọc của các công cụ như ChatGPT. Người phát ngôn của OpenAI cho biết: “Sứ mệnh của chúng tôi là đảm bảo trí tuệ nhân tạo nói chung mang lại lợi ích cho toàn nhân loại và chúng tôi nỗ lực xây dựng các hệ thống AI an toàn và hữu ích nhằm hạn chế nội dung sai lệch và tiêu cực”.

Ngay cả khi nền kinh tế công nghệ nói chung đang chững lại trong bối cảnh suy thoái, các nhà đầu tư vẫn chạy đua rót hàng tỷ USD vào “AI thế hệ mới”. Đây là lĩnh vực của ngành công nghệ mà OpenAI là người dẫn đầu không phải bàn cãi. Các nhà đầu tư lạc quan nhất tin rằng văn bản, hình ảnh, video và âm thanh do máy tính tạo ra sẽ thay đổi cách thức kinh doanh của vô số ngành công nghiệp, thúc đẩy hiệu quả ở mọi nơi từ nghệ thuật sáng tạo đến lập trình máy tính. Nhưng điều kiện làm việc của những người lọc dữ liệu cho thấy một phần đen tối hơn của bức tranh có vẻ hào nhoáng của nó. Dù được ca ngợi là đỉnh cao công nghệ nhưng sản phẩm AI thế hệ mới thường dựa vào sức lao động của con người ở vô danh ở thế giới thứ ba. Những người lao động này hầu như chẳng được gì khi họ làm việc sấp mặt cho các ngành công nghiệp trị giá hàng tỷ USD.

Công nhân Kenia được SAMA thuê lọc dữ liệu với mức lương không quá 2 USD/giờ. Ảnh: Time

Mức lương bèo bọt

Các tài liệu được Time xem xét cho thấy OpenAI đã ký ba hợp đồng tổng trị giá khoảng 200.000 USD với Sama vào cuối năm 2021 để gắn nhãn các mô tả bằng văn bản có nội dung kích động, bạo lực và tình dục. Khoảng 30 công nhân được chia thành ba đội, mỗi đội tập trung vào từng chủ đề đối tượng. Ba nhân viên nói với Time rằng họ phải đọc và dán nhãn từ 150-250 đoạn văn bản mỗi ca làm việc kéo dài 9 giờ.Những đoạn trích đó có thể nằm trong khoảng từ 100 từ đến hơn 1.000 từ.Tất cả bốn nhân viên được Time phỏng vấn đều mô tả họ bị tổn thương tinh thần vì công việc. Mặc dù họ được quyền tham dự các buổi tư vấn về “sức khỏe”, nhưng cả bốn người đều cho biết những buổi này hiếm lắm mới có và không hữu ích gặp do yêu cầu cao để làm việc hiệu quả hơn.

Các hợp đồng nêu rõ rằng OpenAI sẽ trả mức lương 12,5 USD mỗi giờ cho người lao động ở Sama, gấp 6-9 lần số tiền mà nhân viên Sama thực nhận trong dự án. Theo ba nhân viên của Sama, những người lọc dữ liệu cấp bậc thấp nhất, được trả mức lương cơ bản là 21.000 shilling Kenya (170 USD) mỗi tháng.Họ cũng nhận được tiền thưởng hàng tháng trị giá khoảng 70 USD tiền “chuyên cần” và sẽ nhận được thưởng thêm khi đáp ứng các chỉ số hiệu suất chính như độ chính xác và tốc độ. Một công nhân làm việc theo ca 9 tiếng có thể mang về nhà tổng cộng ít nhất 1,32 USD mỗi giờ sau thuế, tăng lên tới 1,44 USD mỗi giờ nếu họ đáp ứng tất cả các chỉ tiêu được giao. Các nhà phân tích chất lượng, tạm gọi là quản đốc, có thể kiếm được tới 2 USD mỗi giờ nếu họ đáp ứng tất cả các chỉ tiêu được giao. Đây không thể gọi là mức lương cao, nếu biết mức lương tối thiểu cho một lễ tân ở Nairobi là 1,52 USD một giờ.

Trong một tuyên bố, người phát ngôn của Sama cho biết các công nhân được yêu cầu dán nhãn chỉ 70 đoạn văn bản mỗi ca chín giờ, chứ không phải 250 và công nhân có thể kiếm được từ 1,46 đến 3,74 USD mỗi giờ sau thuế. Đồng thời, người phát ngôn giải thích thêm: “Mức giá 12,50 USD cho dự án bao gồm tất cả các chi phí, như chi phí cơ sở hạ tầng, tiền lương và phúc lợi cho các công nhân cũng như các quản lý, trưởng nhóm”.

Trong khi đó, Open AI đã đổ toàn bộ trách nhiệm cho Sama.Người phát ngôn của OpenAI tuyên bố rằng công ty không đưa ra bất kỳ chỉ tiêu năng suất nào và Sama chịu trách nhiệm quản lý các điều khoản thanh toán và sức khỏe tinh thần cho nhân viên.

Cách văn phòng của Sama chưa đầy hai dặm là Mukuru kwa Njenga, một trong những khu định cư không chính thức lớn nhất ở Nairobi.

Quan hệ đối tác sụp đổ

Tháng 2/2022, khi mối quan hệ của Sama và OpenAI đang êm đẹp thì bỗng sụp đổ. Khi đó, Sama bắt đầu công việc thử nghiệm cho một dự án riêng cho OpenAI: thu thập hình ảnh khiêu dâm và bạo lực mà một số trong số đó là bất hợp pháp theo luật Mỹ. Bất đồng giữa hai bên bắt đầu từ việc này vì không ai dám đùa với luật pháp của xứ cờ hoa.

Trong vòng vài tuần, Sama đã hủy bỏ tất cả công việc của mình cho OpenAI, sớm hơn tám tháng so với thỏa thuận trong hợp đồng. Công ty gia công phần mềm tuyên bố rằng thỏa thuận thu thập hình ảnh cho OpenAI của họ không bao gồm bất kỳ tham chiếu nào đến nội dung bất hợp pháp và chỉ sau khi công việc bắt đầu, OpenAI mới gửi “hướng dẫn bổ sung” đề cập đến “một số danh mục bất hợp pháp”.

Hôm 10/1/2023, Sama đã tiến thêm một bước, thông báo rằng họ sẽ hủy bỏ tất cả các phần còn lại của công việc có nội dung nhạy cảm. Công ty cho biết họ sẽ không gia hạn hợp đồng kiểm duyệt nội dung trị giá 3,9 triệu USD với Facebook, dẫn đến việc mất khoảng 200 việc làm ở Nairobi.

Nhưng nhu cầu nhân công dán nhãn dữ liệu cho các hệ thống AI vẫn còn, ít nhất là cho đến thời điểm hiện tại. Andrew Strait, một nhà đạo đức học về AI, gần đây đã viết trên Twitter: “Chúng rất ấn tượng, nhưng ChatGPT và các mô hình thế hệ khác không phải là phép thuật – chúng dựa vào chuỗi cung ứng khổng lồ về nhân công lao động bằng xương thịt và dữ liệu thu thập được mà phần lớn trong số đó không được chấp thuận chia sẻ và sử dụng. Đây là những vấn đề cơ bản, nghiêm trọng mà tôi không thấy OpenAI đang giải quyết”.

Anh Tú (theo TGHN)

Ý kiến của bạn về bài viết

Không có chức năng bình luận cho bài viết này