Biên tập viên tạp chí khoa học nổi tiếng từ chức vì bị AI vượt quyền

Bức xúc vì bị AI bác bỏ mọi quyết định

Mới đây, Phó giáo sư Michael Okun, Đại học Nottingham, đã từ chức biên tập viên tại tạp chí Frontiers in Systems Neuroscience để phản đối hệ thống AI của nhà xuất bản.

Theo thông tin trên bài đăng ngày 10/6 của Okun, ông đưa ra quyết định khi phía tạp chí cho biết họ không thể tắt các công cụ AI tự động tìm kiếm và mời chuyên gia phản biện.

Nguyên nhân của câu chuyện xuất phát từ một sự cố xảy ra trong quá trình xử lý bản thảo khoa học hồi đầu tháng 5.

Cụ thể, khi được giao phụ trách một nghiên cứu về động lực học của các mạng lưới thần kinh, Okun đã chủ động gửi lời mời phản biện tới khoảng sáu chuyên gia có chuyên môn phù hợp.

Dẫu vậy, trước khi bất kỳ người nào trong số đó phản hồi, hệ thống AI mang tên Artificial Intelligence Research Assistant (AIRA) của Frontiers đã tự động gửi thêm lời mời phản biện tới những nhà nghiên cứu khác.

Ngay sau đó, hai người được hệ thống AI lựa chọn đã chấp nhận lời mời dù không có chuyên môn phù hợp với nội dung nghiên cứu.

Sau khi phát hiện sự việc, Okun đã liên hệ với nhà xuất bản để phản ánh và nhận được hướng dẫn bỏ qua các lời mời do hệ thống gửi đi, đồng thời tiếp tục tìm kiếm người phản biện phù hợp.

Nhưng diễn biến sau đó càng khiến sự việc trở nên khó hiểu.

Sau khi một chuyên gia do Okun lựa chọn đồng ý tham gia phản biện bản thảo, hệ thống AIRA lại tự động hủy những lời mời phản biện khác mà ông đã gửi trước đó.

Đối với Okun, đây không phải là lỗi kỹ thuật mà là những tính năng được thiết kế có chủ đích nhằm giảm tối đa vai trò của biên tập viên là con người.

Ông cho rằng tạp chí đang ưu tiên việc xử lý và xuất bản nhiều bài báo hơn thay vì bảo đảm chất lượng phản biện.

Nhiều bất cập tương tự

Không chỉ Okun, một số nhà khoa học cũng cho biết họ từng gặp các tình huống tương tự khi làm việc với hệ thống tự động của Frontiers.

Giáo sư Shuzo Sakata, Đại học Strathclyde, cho biết dù ông từng từ chối một bản thảo nhưng hệ thống vẫn tiếp tục gửi lời mời phản biện tới người khác mà không có sự cho phép của ông.

“Tự động hóa là xu hướng tất yếu và mang lại nhiều lợi ích cho hoạt động học thuật. Tuy nhiên, hệ thống AI đã vượt quá giới hạn”, Giáo sư Shuzo Sakata bày tỏ.

Sau những trải nghiệm không mong muốn, ông cho biết hiện đã không còn nhận lời xử lý các bản thảo cho tạp chí.

Thậm chí, một số nhà nghiên cứu khác còn phản ánh việc thường xuyên nhận được lời mời phản biện hoặc tham gia biên tập những nghiên cứu không liên quan đến chuyên môn của họ.

Điển hình là trường hợp của Giáo sư Earl K. Miller, Viện Công nghệ Massachusetts, chia sẻ rằng mình liên tục nhận được các yêu cầu phản biện hoàn toàn không phù hợp với lĩnh vực của mình.

Những câu chuyện trên đã làm dấy lên tranh cãi về khả năng đánh giá năng lực chuyên môn của các hệ thống AI đang được sử dụng trong xuất bản khoa học.

Nhiều chuyên gia lo ngại việc AI can thiệp sâu vào khâu lựa chọn phản biện có thể ảnh hưởng đến chất lượng thẩm định khoa học.

Nếu người đánh giá không có chuyên môn phù hợp, các nghiên cứu thiếu độ tin cậy có thể vẫn được công bố, trong khi những công trình chất lượng lại có nguy cơ bị đánh giá thấp hoặc bị bỏ qua.

Ranh giới giữa hỗ trợ và thay thế con người

Trước những chỉ trích, Frontiers khẳng định yếu tố con người vẫn đóng vai trò trung tâm trong quá trình xuất bản.

Trong phản hồi gửi tới tờ The Transmitter, Frederick Fenter, Tổng biên tập điều hành của Frontiers, cho biết tất cả các tính năng được phát triển đều nhằm giúp các nhà khoa học tiết kiệm thời gian và tập trung nhiều hơn vào nghiên cứu.

Vị Tổng biên tập nhấn mạnh các biên tập viên vẫn có toàn quyền quyết định việc sử dụng hay không sử dụng các gợi ý do AI cung cấp. Họ có thể xem xét danh sách đề xuất trước khi lời mời được gửi đi, thay đổi hoặc loại bỏ người phản biện bất cứ lúc nào.

Fenter cũng cho biết Frontiers đã triển khai AI để hỗ trợ tìm kiếm chuyên gia phản biện từ năm 2018.

Dữ liệu nội bộ của nhà xuất bản cho thấy thời gian trung bình để tìm được người đồng ý phản biện đã giảm khoảng 30% trong năm qua. Khoảng 80% biên tập viên tham gia khảo sát đánh giá các công cụ tự động là hữu ích và 94% tác giả cho biết họ hài lòng với trải nghiệm phản biện.

Sau sự việc liên quan đến Okun, Frontiers hiện đang tiến hành rà soát nội bộ nhằm xác định nguyên nhân dẫn đến những hiểu lầm trong quá trình sử dụng hệ thống và ngăn chặn các trường hợp tương tự xảy ra.

Bản thân Phó giáo sư Michael Okun không phản đối việc sử dụng AI. Ông cho rằng các mô hình ngôn ngữ lớn hoàn toàn có thể hỗ trợ tìm kiếm chuyên gia, miễn là có sự tham khảo ý kiến ​​của biên tập viên con người.

Ông cho biết ngay cả khi một nhà xuất bản muốn vận hành hoàn toàn bằng AI, điều đó vẫn có thể chấp nhận.

“Tuy nhiên, họ cần công khai minh bạch và không nên gắn tên biên tập viên con người vào các quyết định mà thực chất do AI đưa ra”, vị Phó giáo sư chia sẻ.