1
Đọc văn bản sau:
NGƯỜI QUẢN LÍ KHÔNG CÓ KHUÔN MẶT
Ứng dụng giao hàng của Quân không quát mắng, cũng không giải thích. Nó phát âm báo khi có đơn, đếm ngược mười giây để nhận, chấm điểm thời gian, tự động giảm ưu tiên nếu em từ chối nhiều chuyến. Mỗi quyết định nhỏ được ghi lại, nhưng Quân không biết công thức nào biến chúng thành thứ hạng cuối ngày.
Thuật toán giúp phân phối đơn nhanh, dự báo nhu cầu và giảm một số thiên vị của người quản lí. Song khi tiêu chí ẩn, người lao động khó phân biệt đánh giá hiệu suất với trừng phạt. Một lần xe hỏng giữa mưa, Quân bị giảm điểm vì giao muộn. Em gửi khiếu nại và nhận câu trả lời mẫu: “Hệ thống đã ghi nhận.” Không ai cho biết hoàn cảnh đã được xem xét hay chưa.
Trong cuộc họp với công ty, đại diện nền tảng nói rằng mở toàn bộ thuật toán có thể khiến người dùng gian lận và làm lộ bí mật kinh doanh. Nhóm tài xế không yêu cầu xem mọi dòng mã. Họ đề nghị được biết những yếu tố chính ảnh hưởng thu nhập, được báo trước khi quy tắc thay đổi, có quyền sửa dữ liệu sai và có một người chịu trách nhiệm khi quyết định tự động gây hậu quả lớn.
Cuộc đối thoại làm xuất hiện một câu hỏi: hiệu quả thuộc về ai và chi phí của hiệu quả được phân bổ thế nào? Nếu hệ thống tiết kiệm thời gian cho khách hàng nhưng đẩy rủi ro thời tiết, tai nạn và thiết bị sang tài xế, con số “tối ưu” chỉ kể một nửa câu chuyện. Một phép tính có thể chính xác theo mục tiêu đã đặt mà vẫn bất công vì mục tiêu ấy bỏ sót con người.
Sau thử nghiệm mới, ứng dụng thêm nút báo sự cố, khoảng thời gian nghỉ không bị tính là từ chối đơn, giải thích ngắn về thay đổi điểm và kênh xem xét bởi nhân viên. Hệ thống vẫn là thuật toán, nhưng người lao động không còn đối thoại với một bức tường hoàn toàn vô danh. Quân nói: “Tôi không cần máy có khuôn mặt. Tôi cần quyết định có địa chỉ để chịu trách nhiệm.”
(Ngữ liệu do nhóm biên soạn, tham khảo nghiên cứu của ILO về quản trị bằng thuật toán và chất lượng việc làm.)
Những hành vi nào của Quân được ứng dụng ghi nhận để ảnh hưởng đến thứ hạng?
NGƯỜI QUẢN LÍ KHÔNG CÓ KHUÔN MẶT
Ứng dụng giao hàng của Quân không quát mắng, cũng không giải thích. Nó phát âm báo khi có đơn, đếm ngược mười giây để nhận, chấm điểm thời gian, tự động giảm ưu tiên nếu em từ chối nhiều chuyến. Mỗi quyết định nhỏ được ghi lại, nhưng Quân không biết công thức nào biến chúng thành thứ hạng cuối ngày.
Thuật toán giúp phân phối đơn nhanh, dự báo nhu cầu và giảm một số thiên vị của người quản lí. Song khi tiêu chí ẩn, người lao động khó phân biệt đánh giá hiệu suất với trừng phạt. Một lần xe hỏng giữa mưa, Quân bị giảm điểm vì giao muộn. Em gửi khiếu nại và nhận câu trả lời mẫu: “Hệ thống đã ghi nhận.” Không ai cho biết hoàn cảnh đã được xem xét hay chưa.
Trong cuộc họp với công ty, đại diện nền tảng nói rằng mở toàn bộ thuật toán có thể khiến người dùng gian lận và làm lộ bí mật kinh doanh. Nhóm tài xế không yêu cầu xem mọi dòng mã. Họ đề nghị được biết những yếu tố chính ảnh hưởng thu nhập, được báo trước khi quy tắc thay đổi, có quyền sửa dữ liệu sai và có một người chịu trách nhiệm khi quyết định tự động gây hậu quả lớn.
Cuộc đối thoại làm xuất hiện một câu hỏi: hiệu quả thuộc về ai và chi phí của hiệu quả được phân bổ thế nào? Nếu hệ thống tiết kiệm thời gian cho khách hàng nhưng đẩy rủi ro thời tiết, tai nạn và thiết bị sang tài xế, con số “tối ưu” chỉ kể một nửa câu chuyện. Một phép tính có thể chính xác theo mục tiêu đã đặt mà vẫn bất công vì mục tiêu ấy bỏ sót con người.
Sau thử nghiệm mới, ứng dụng thêm nút báo sự cố, khoảng thời gian nghỉ không bị tính là từ chối đơn, giải thích ngắn về thay đổi điểm và kênh xem xét bởi nhân viên. Hệ thống vẫn là thuật toán, nhưng người lao động không còn đối thoại với một bức tường hoàn toàn vô danh. Quân nói: “Tôi không cần máy có khuôn mặt. Tôi cần quyết định có địa chỉ để chịu trách nhiệm.”
(Ngữ liệu do nhóm biên soạn, tham khảo nghiên cứu của ILO về quản trị bằng thuật toán và chất lượng việc làm.)
Những hành vi nào của Quân được ứng dụng ghi nhận để ảnh hưởng đến thứ hạng?
Trả lời ngắn