Công cụ AI có khả năng nhái nét chữ viết tay của người khác gây lo ngại

Một nhóm các nhà nghiên cứu tại Đại học Trí tuệ nhân tạo Mohammed Bin Zayed (MBZUAI) đã phát triển một hệ thống trí tuệ nhân tạo (AI) có khả năng ghi nhận và sao chép nét chữ viết tay của mọi người, sau đó tạo ra những văn bản với những kiểu chữ viết tay giống hệt.

Đáng chú ý, hệ thống AI này chỉ cần một vài đoạn chữ viết tay của bất kỳ người nào để có thể đào tạo và nhái theo, thay vì phải cần đến một hệ thống cơ sở dữ liệu lớn các kiểu chữ viết tay khác nhau.

Các nhà khoa học của MBZUAI cho biết mục đích tạo ra hệ thống AI này nhằm giúp những người bị thương hoặc gặp vấn đề nào đó khiến họ không thể cầm viết, hệ thống này sẽ giúp tạo ra những văn bản viết tay giống hệt nét chữ của họ.

Theo Rao Muhammad Anwer, một thành viên của nhóm nghiên cứu, công cụ AI này cũng có thể được sử dụng để "giải mã" các nét chữ viết tay của bác sĩ, vốn nổi tiếng rất rối rắm và khó đọc. Ngoài ra, công cụ này cũng giúp người dùng có thể viết các đoạn văn bản dài bằng nét chữ viết tay của mình mà không cần phải mất công sức cầm viết.

Hiện công cụ AI này mới chỉ hỗ trợ tiếng Anh, một ít tiếng Pháp. Các nhà nghiên cứu đang tiếp tục làm việc để công cụ này có thể hỗ trợ nhiều ngôn ngữ phức tạp hơn như tiếng Ả Rập hoặc Trung Quốc…

Công cụ AI nhái nét chữ viết tay này đã khiến nhiều người phải lo ngại khi nó có thể bị lợi dụng để tạo ra những văn bản giả mạo hoặc nhái để làm giả chữ ký trên hợp đồng… bản thân nhóm nghiên cứu của MBZUAI cũng thừa nhận rằng họ lo ngại công cụ AI của mình có thể bị sử dụng sai mục đích, do vậy nhóm đã rất thận trọng khi nghiên cứu công cụ này.

"Chữ viết tay đại diện cho danh tính của một người, vì vậy chúng tôi đang suy nghĩ cẩn thận trước khi triển khai công cụ này ra cộng đồng", Rao Muhammad Anwer chia sẻ.

"Chúng tôi sẽ phải nâng cao nhận thức của cộng đồng và phát triển các công cụ để chống giả mạo chữ viết tay. Nó giống như việc phát triển một công cụ chống virus máy tính", Hisham Cholakkal, một thành viên khác của nhóm phát triển, cho biết.

Hiện tại các công cụ sáng tạo nội dung tích hợp AI đã trở nên rất phổ biến và được sử dụng rộng rãi. Nhiều công cụ chỉnh sửa ảnh, video tích hợp AI, cho phép tạo ra những hình ảnh hoặc video giả mạo một cách dễ dàng… điều này khiến nhiều người lo ngại các công cụ AI có thể bị lợi dụng để phục vụ cho mục đích xấu, lan truyền thông tin giả mạo hoặc lừa đảo.

Thậm chí, nhiều công cụ AI còn có thể nhái theo giọng nói của người khác chỉ từ một đoạn thu âm ngắn, cho phép kẻ xấu có thể lợi dụng để thực hiện các cuộc gọi điện lừa đảo.

Cần phải thừa nhận rằng, các công nghệ AI được ra đời đã và đang hỗ trợ tốt hơn cho cuộc sống, công việc của con người, nhưng nếu những công nghệ này bị kẻ xấu lạm dụng, chúng có thể sẽ gây nguy hại rất nhiều. Điều này đòi hỏi các nhà phát triển phải có giải pháp để hạn chế và có cách để phân biệt rõ các nội dung nào được tạo bởi AI.

Theo Insider/FP