Khi công nghệ AI "làm mờ" ranh giới thật - giả, bị lợi dụng cho mục đích xấu

AI bị lợi dụng cho mục đích xấu

Tại Việt Nam, sự phát triển nhanh chóng của Internet và mạng xã hội đã mở ra một không gian giao tiếp, trao đổi thông tin rộng lớn chưa từng có. Điều đó vừa tạo cơ hội cho sự kết nối, sáng tạo và hội nhập, vừa đặt ra những thách thức rất lớn về quản lý, kiểm soát và bảo đảm an ninh thông tin.

Các thế lực thù địch, phản động, cơ hội chính trị đã và đang triệt để khai thác mặt trái của công nghệ số, trong đó có deepfake để tiến hành các hoạt động chống phá Đảng, Nhà nước, phá hoại khối đại đoàn kết dân tộc và gây rối loạn đời sống chính trị - xã hội. Họ lợi dụng tính lan truyền nhanh chóng, khó kiểm chứng của thông tin trên mạng để tạo dựng các sản phẩm giả mạo nhằm xuyên tạc, bôi nhọ, hạ thấp uy tín của các đồng chí lãnh đạo Đảng, Nhà nước, tung tin thất thiệt, kích động tư tưởng chống đối.

Những sản phẩm giả mạo này thường được tung lên các nền tảng như Facebook, YouTube, TikTok rồi lan truyền với tốc độ chóng mặt, nhất là khi gắn với các sự kiện chính trị nhạy cảm. Nội dung deepfake do các thế lực tạo nên với nhiều hình thức đa dạng, phong phú, khi thì núp dưới vỏ bọc là những video với ngôn từ, hình ảnh nhân vật giả tạo theo hướng "hóm hỉnh" "gây cười", có lúc lại hàm chứa biểu cảm "bi thương", "ai oán" hoặc châm biếm để kích thích tính tò mò, hiếu kỳ của một bộ phận công chúng và thu hút sự theo dõi, quan tâm của người dùng mạng xã hội.

Thời lượng cho các video giả ngắn, song có một mẫu số chung là đều hàm chứa sự bịa đặt, sai trái, xuyên tạc. Điều đáng bàn là sự phát triển của công nghệ deepfake khiến các sản phẩm giả mạo ngày càng tinh vi, khó phân biệt và khi lan truyền trên mạng xã hội dễ dàng thâm nhập vào đời sống xã hội, tiêm nhiễm vào nhận thức của người dân, đặc biệt là giới trẻ vốn tiếp cận thông tin mạng nhiều nhưng kỹ năng kiểm chứng còn hạn chế.

Năm 2022, một video Deepfake sử dụng gương mặt của Tổng thống Ukraine trong đó yêu cầu quân đội của mình đầu hàng đã gây chấn động internet. Các nội dung giả mạo còn có thể được tội phạm lợi dụng để tác động đến giá cổ phiếu của công ty. Video giả mạo giám đốc điều hành với các tuyên bố gây thiệt hại về công ty có thể khiến giá cổ phiếu tụt dốc, trong khi một video giả mạo về bước đột phá công nghệ hoặc việc ra mắt sản phẩm mới có thể dễ dàng nâng giá cổ phiếu.

Các chuyên gia pháp lý lo ngại rằng, Deepfake có thể bị lạm dụng để làm xói mòn niềm tin vào các video và các thiết bị giám sát khác. The New York Times dẫn lại một vụ án tại Anh năm 2019 khi các nhà chức trách phát hiện một đoạn ghi âm được dùng làm bằng chứng tại tòa là giả mạo. Giả mạo kỹ thuật số cũng có thể làm mất uy tín hoặc kích động bạo lực đối với các sĩ quan cảnh sát. Một số chuyên gia dự đoán, với tốc độ phát triển ngày càng tinh vi, chỉ trong vài năm tới 90% nội dung trực tuyến đều không có thật.

Công nghệ AI ngày càng phát triển nhưng vẫn có nhiều yếu điểm

Công nghệ A.I hiện nay có khả năng tạo nội dung rất nhanh và đa dạng, nhưng vẫn tồn tại một số điểm yếu.

Thứ nhất là độ chính xác thông tin: AI đôi khi tạo ra dữ liệu sai hoặc ngữ cảnh không phù hợp. Điều này khiến cho bản thân người làm AI cũng gặp rất nhiều khó khăn. Đó cũng là nguyên do khiến A.I gặp nhiều rắc rối khi tạo ra những nội dung không khớp với mong muốn của câu lệnh, đặc biệt trong những khung video phức tạp đòi hỏi có nhiều sự chuyển động, nhiều vật thể khác nhau và khi khung hình phải chuyển qua nhiều bối cảnh khác nhau.

Thứ hai là thiếu sự sáng tạo mang tính cảm xúc thực sự. Nghe có vẻ rất hài hước nhưng thực tế, AI có thể kết hợp và biến tấu ý tưởng, nhưng chưa thể hiểu sâu cảm xúc con người hay tạo ra trải nghiệm nghệ thuật hoàn toàn độc đáo. Cho dù đã cố gắng để diễn, biểu đạt cảm xúc thật tự nhiên như con người, nhưng các nhân vật được tạo dựng A.I vẫn để lại "dấu tích" của biểu cảm, giọng nói, cách diễn đạt vẫn có nhiều nét "thuần rôbốt", còn cứng nhắc, thiếu sự linh hoạt và thiếu cảm xúc.

Thứ ba là giới hạn trong nhận diện hình ảnh, giọng nói phức tạp: Một lần nữa giới hạn về dữ liệu đầu vào khiến A.I gặp nhiều khó khăn khi "thâu nạp" những hình ảnh, giọng nói, cách biểu đạt phức tạp. Kể cả khi A.I muốn sáng tạo, khi những dữ liệu đầu vào không đủ phong phú, bản thân A.I cũng không thể đưa ra những sản phẩm đầu ra có hình ảnh và giọng nói giống như khi hai con người giao tiếp. Các đoạn hội thoại với A.I thường có thời gian ngắn và thường bộc lộ nhiều điểm "mất tự nhiên" vì lý do này.

Anh Nguyễn Hồng Quân, Giám đốc công ty giải pháp phần mềm 7D, chia sẻ những khó khăn mà nhà sản xuất video thường gặp phải trong quá trình sản xuất các sản phẩm AI.

"Khi sản xuất video bằng AI, chúng tôi gặp phải một số khó khăn chính, thí dụ như chất lượng đầu ra không ổn định: đôi khi hình ảnh hoặc chuyển cảnh không mượt, giọng nói nhân tạo thiếu tự nhiên.

Tiếp đến là thời gian xử lý và chi phí cao: Video dài hoặc chất lượng cao tiêu tốn nhiều tài nguyên và credit (người dùng phải trả phí cho phần mềm tạo dựng video AI theo cường độ, tần suất sử dụng".

"Ngoài ra, AI có thể tạo ra cảnh hoặc hành động không đúng ý, nên buộc các nhà sản xuất nội dung phải mất thời gian, công sức chỉnh sửa nhiều lần. Để có một phiên bản AI Video thật nhất, chúng tôi phải dành rất nhiều thời gian, nỗ lực "cắt gọt", "mài dũa" phong cách, ánh sáng, biểu cảm để video trông thật nhất.", anh Nguyễn Hồng Quân cho biết.

Người dân cần nâng cao ý thức, cảnh giác trước thông tin không được kiểm chứng

Theo các chuyên gia, tình trạng lợi dụng công nghệ AI để mạo danh đang ngày càng có nhiều diễn biến phức tạp, phổ biến nhất là trên các mạng xã hội. Trong khi các cơ quan chức năng đang phối hợp với nền tảng tăng cường biện pháp quản lý, ngăn chặn thì người dùng cần thận trọng và chỉ theo dõi thông tin từ các nguồn chính thống.

Đối với người dân, việc nâng cao nhận thức, ý thức cảnh giác là yếu tố quyết định. Mỗi công dân cần hiểu rõ bản chất, nguy cơ và thủ đoạn lợi dụng deepfake để có thái độ thận trọng khi tiếp nhận thông tin. Khi gặp các video, hình ảnh có nội dung nhạy cảm, cần kiểm chứng qua nhiều nguồn, đặc biệt là qua các kênh thông tin chính thống.

Việc không chia sẻ, không phát tán những nội dung chưa được kiểm chứng là hành động thiết thực góp phần ngăn chặn sự lan truyền của tin giả. Việc trang bị kỹ năng số, kỹ năng truyền thông và tinh thần trách nhiệm công dân trên không gian mạng sẽ góp phần quan trọng trong việc xây dựng một môi trường mạng lành mạnh, an toàn.

Đấu tranh với mặt trái của deepfake không chỉ là xử lý hậu quả khi nó đã xuất hiện, mà quan trọng hơn là tạo dựng một hệ sinh thái thông tin minh bạch, tin cậy, nơi người dân được cung cấp đầy đủ, kịp thời, chính xác các thông tin cần thiết từ các cơ quan chức năng và báo chí chính thống.

Khi niềm tin của công chúng được củng cố bằng những nguồn tin chính xác, những sản phẩm giả mạo sẽ khó có đất để lan truyền, khó có thể tạo ra tác động tiêu cực. Do đó, cùng với việc kiểm soát, xử lý thông tin xấu độc, việc nâng cao chất lượng thông tin chính thống, đổi mới cách thức truyền thông, sử dụng hiệu quả các nền tảng mạng xã hội để lan tỏa thông tin tích cực, chính xác là vô cùng cần thiết.