Lợi dụng AI sản xuất nội dung xấu, độc

Lợi dụng AI tạo nội dung phản cảm, giả mạo

Trí tuệ nhân tạo - AI đang ngày càng xuất hiện nhiều trong mọi mặt đời sống. Lợi ích là điều không ai phủ nhận. Nhưng tác hại cũng không đếm xuể. Rất nhiều nội dung phản cảm, lệch chuẩn, lừa đảo, thậm chí là vô đạo đức, đã được tạo ra, nhờ lợi dụng AI.

Hình ảnh một cô gái bán hàng bình thường - qua công nghệ AI, bị lợi dụng biến thành một cô gái khuyết tật bán hàng trực tuyến. Câu chuyện thương tâm khiến nhiều người mong muốn đặt hàng để ủng hộ. Thế nhưng, khi phát hiện ra đó chỉ là lừa đảo, họ đã phải thất vọng.

Chị Vũ Nguyễn Bảo Ngọc - Sinh viên Học viện Ngoại giao cho biết: "Khi người ta sử dụng AI để giả làm người khuyết tật, cộng đồng những người khuyết tật cũng sẽ bị ảnh hưởng. Trước hết là bị mất niềm tin vào những hoàn cảnh như thế và cảm giác không muốn giúp đỡ họ nữa".

Không những thế, AI còn được sử dụng để tạo ra những video với nội dung phản cảm như một cô gái nhảy múa trong các đám tang. Hàng chục video với nội dung như vậy được đăng tải liên tục và thu hút lượt xem rất cao, có clip lên tới cả triệu lượt xem. Bất chấp các quy chuẩn đạo đức, miễn là tạo ra nội dung có tương tác cao.

Chị Nguyễn Phương Nhi - Phường Ô Chợ Dừa, TP. Hà Nội chia sẻ: "Quá phản cảm, bởi vì trong một đám tang thế, cảm xúc chung của mọi người sẽ là cảm xúc buồn nhiều hơn. Và để những cảm xúc như thế, họ đang không nghĩ đến cảm xúc của người xem. Họ đang lợi dụng AI quá nhiều vào trong những hành động để câu view câu like".

Tâm lý chung của người xem khi biết mình bị lừa bởi nội dung AI là bức xúc và tức giận. Nhưng đó chỉ là hệ quả trước mắt. Thật - giả lẫn lộn khiến nhiều người không biết nên đặt niềm tin vào đâu trên mạng xã hội. Người thật việc thật lại nhiều khi trở thành nạn nhân. Như câu chuyện một cô gái khuyết tật đang cố gắng sản xuất các nội dung tích cực. Sau câu chuyện AI giả mạo người khuyết tật, cô bị nhiều người tấn công vì lầm tưởng mình cũng là AI.

Chị Trần Thị Nga - Tỉnh Phú Thọ tâm sự: "Có nhiều người bình luận nói rằng tôi giả vờ khuyết tật để gây thương hại, diễn để kêu vui bán hàng. Thậm chí có người còn nói tôi dùng hiệu ứng để tạo ra hình ảnh mất tay mất chân. Những lời nói đó thật sự khiến tôi rất buồn và tủi thân. Khi ai đó dùng công nghệ AI làm người khuyết tật nhằm thu hút sự thương hại hay lợi ích cá nhân, điều đó khiến công sức và nỗ lực của những người khuyết tật thực sự cố gắng trở nên bị xem nhẹ và méo mó".

Xu hướng tạo nội dung số bằng AI

AI vốn dĩ được tạo ra không dành cho những mục đích không lành mạnh, mà để hỗ trợ con người. Những nội dung mà nó tạo ra đúng hay sai, phụ thuộc vào những câu lệnh, tức là mục đích, động cơ của người dùng. Như với lĩnh vực sáng tạo nội dung, có những ví dụ xấu nhưng cũng có rất nhiều những ví dụ tốt. Trào lưu tạo ảnh, video bằng AI bùng nổ từ đầu năm. Sự ra đời của các công cụ tạo video như OpenAI Sora, Google Veo3 hay Runway khiến xu hướng này càng bùng nổ trên không gian mạng. Các clip không chỉ dừng lại ở việc làm cho vui, mà ngay trong chính lĩnh vực sáng tạo nội dung số chuyên nghiệp, AI cũng được ứng dụng ngày càng nhiều.

Minh - 10 năm làm sáng tạo nội dung số. Việt Anh - một bạn trẻ gen Z trong lĩnh vực này. Cả hai đều ít nhiều có sử dụng AI trong quá trình sáng tạo nội dung.

Anh Phan Việt Anh - Người sáng tạo nội dung số cho biết: "Hỗ trợ kịch bản, thứ hai là khâu quay dựng rất thuận lợi, tiết kiệm chi phí, thời gian".

Nhanh, tiện , có thể sản xuất một lượng lớn sản phẩm trong thời gian ngắn với giá thành rẻ, và càng ngày càng giống thật. Đây là lý do mà các nội dung này đang ngày càng chiếm số lượng lớn trên không gian mạng. Nhiều nhà sáng tạo nội dung, thậm chí là doanh nghiệp cũng ứng dụng AI trong việc tạo nội dung.

Ông Phùng Thái Học - Giám đốc Công ty Truyền thông WOW Agency nêu ý kiến: "Hiệu suất nói về tốc độ để sản xuất, số lượng có thể sản xuất được gia tăng rất nhiều. Khi có mặt của AI, người ta không phải đối mặt với rào cản về thiết bị, rào cản về mặt con người và bối cảnh. Cho nên chất lượng không đưa lên quá cao nhưng cũng tạo ra những sản phẩm có chất lượng tương đối".

Ưu điểm là vậy. Nhưng ưu điểm của AI, dưới bàn tay của những người làm nội dung xấu, độc lại trở thành nhược điểm. Việt Anh là một người thường xuyên tìm hiểu và áp dụng những công nghệ AI mới nhất. Bản thân anh cũng thấy, hình ảnh do AI tạo ra ngày càng giống nội dung do con người thực hiện.

Anh Phan Việt Anh - Người sáng tạo nội dung ố tâm sự: "Thời gian trở lại đây, AI phát triển bùng nổ. Sắp tới, không chắc AI có thể thay thế con người hay không. Bởi một số video trên mạng phải soi rất kỹ mới thấy được sạn của nó mới biết đó là video AI, còn nếu lướt qua thì rất khó để phân biệt giữa AI và video thật".

Giống như người thật, nhưng lại sẵn sàng làm những nội dung mà người thật ít ai dám làm: như biến người lành lặn thành người khuyết tật, hay ăn mặc hớ hênh, nhảy múa trong đám tang. Theo những người đã lâu năm làm sáng tạo nội dung, ranh giới đạo đức chính là điểm khác biệt giữa nội dung AI và nội dung do con người sáng tạo.

Anh Lê Minh - Người sáng tạo nội dung số cho biết: "Những kịch bản có thoại, những tình huống diễn nhiều khi hơi hài một chút, nếu là con người có thể sẽ ngại, không diễn, đổi sang kịch bản khác hoặc diễn một cách bị gượng. Với AI, hoàn toàn không có chuyện đó xảy ra và có thể làm như thật, không phải diễn. AI không có quy chuẩn về mặt đạo đức, tất cả dựa theo yêu cầu của người dùng".

Những quy định về nội dung do AI sản xuất

Khi AI càng tinh xảo, càng chân thực, ranh giới thật - giả càng trở nên mờ nhạt, thậm chí không thể phân biệt. Vì thế, theo nhiều chuyên gia, cần có những quy chuẩn về dán nhãn nội dung AI, cũng như các quy tắc đạo đức cho việc sử dụng AI.

PGS.TS. Nguyễn Thị Quế Anh - Nguyên Hiệu trưởng Trường Đại học Luật, Đại học Quốc gia Hà Nội nhận định: "Những khoảng trống còn tồn tại đến thời điểm hiện nay còn lại rất nhiều vấn đề. Chúng tôi cho rằng, nguyên nhân chính ở đây là do sự tụt hậu của những lý thuyết pháp lý truyền thống. Hiện nay đang thiếu những quy định pháp luật trong lĩnh vực thể hiện sự tương tác giữa con người với trí tuệ nhân tạo hay những vấn đề về đạo đức, về an ninh, tư cách pháp lý về trí tuệ nhân tạo hay trách nhiệm pháp lý và những vấn đề xâm phạm đời sống cá nhân của con người".

Ông Phùng Thái Học - Giám đốc Công ty Truyền thông WOW Agency đưa ra ý kiến: "Ở Việt Nam, tôi nghĩ rằng các cơ quan quản lý nên có biện pháp để hướng dẫn người sáng tạo nội dung phải gắn nhãn đây là một ấn phẩm do AI. Và thậm chí các cơ quan Nhà nước cần phải có sự phối hợp với các nền tảng, dù họ là nền tảng đến từ nước ngoài, trong việc buộc người sáng tạo nội dung phải đăng dán nhãn, dán các sản phẩm do AI tạo ra".

Hỗ trợ người yếu thế trên không gian mạng

Theo nhiều nghiên cứu, người khuyết tật, phụ nữ là những đối tượng thường chịu ảnh hưởng và bị tổn thương trên các nền tảng xã hội, trong đó có AI. Vì thế, tại lễ kí kết Công ước Hà Nội mới đây, lần đầu tiên trong một Công ước của Liên hợp quốc có điều khoản cụ thể để bảo vệ những nạn nhân là trẻ em và nhóm người yếu thế. Đây được xem là bước tiến trong việc hỗ trợ bảo vệ người yếu thế trên không gian mạng

Tại sự kiện Lễ mở ký Công ước Liên hợp quốc về chống tội phạm mạng, Việt Nam chia sẻ về một giải pháp để giúp đỡ cộng đồng người yếu thế. Đó là xây dựng trung tâm tiếp nhận những người sống sót sau bạo lực, hình thành mạng lưới tiếp nhận thông tin để khi xảy ra bất kỳ cuộc tấn công mạng nào, nạn nhân hoàn toàn có thể tìm kiếm sự trợ giúp. Vì trẻ em, phụ nữ hay người khuyết tật đều e ngại trong việc chia sẻ những khó khăn của mình.

Anh Nguyễn Quốc Anh - Giám đốc Công ty TNHH Tư vấn đào tạo và Phát triển sáng kiến về giới IT'S TIME chia sẻ: "Những đặc điểm khiến họ trở nên đa dạng là những đặc điểm thu hút tấn công mạng nhiều nhất. Chúng tôi mong muốn kiến tạo nên các vòng tròn chia sẻ xã hội để giúp họ có những sự hỗ trợ về mặt đồng trang lứa cũng như kết nối với các chuyên gia y tế, pháp lý để họ có dịch vụ hỗ trợ thiết thực hơn cũng như có chi phí vừa phải đối với những nhóm chịu ảnh hưởng này"

Ngoài các biện pháp kỹ thuật và pháp lý, việc giáo dục kỹ năng tự bảo vệ và khả năng ứng phó với các hành vi lạm dụng trên mạng là yếu tố then chốt.

Chị Lê Nguyễn Bảo Ngọc - Thành viên Liên minh Niềm tin số nêu ý kiến: "Sự hợp tác giữa các quốc gia, giữa các Chính phủ với nhau là vô cùng cần thiết. Đồng thời, khi mà chúng ta nghĩ đến việc phòng, chống, không chỉ là câu chuyện chúng ta có những cơ chế pháp lý mà cũng là câu chuyện trang bị năng lực cho chính những người đang sử dụng mạng xã hội hay đang trực tuyến trên mạng".

Bà Bertha Nayelly Loya Marin - Cơ quan Phòng chống ma tuý và tội phạm của Liên Hợp Quốc nhận định: "Ví dụ nếu bạn là cha mẹ, bạn sẽ không giao xe cho con mà không dạy con cách lái xe. Điều này cũng đúng với điện thoại thông minh hay bất kỳ thiết bị nào. Vì vậy, bạn phải dạy con mình trước khi chúng có thể sử dụng".

Mới đây, UNESCO vừa chính thức thông qua Khuyến nghị về đạo đức trong công nghệ thần kinh để những người yếu thế sử dụng công nghệ hỗ trợ mà không bị xâm hại đến quyền và não bộ con người.

Theo báo cáo chỉ số AI toàn cầu, Việt Nam đứng thứ 5 thế giới ở chỉ tiêu "Chấp nhận AI" - chỉ số phản ánh thái độ tích cực của người Việt đối với việc AI trở thành một phần của cuộc sống và xếp thứ 7 về chỉ số "Quan tâm đến AI". Khảo sát được thực hiện tại 40 quốc gia, vùng lãnh thổ. Chỉ số này càng cho thấy tầm quan trọng của việc chúng ta cần phải biết tận dụng AI - một trong những công cụ thông minh, sáng tạo nhất hiện nay, thay vì lợi dụng nó, để phục vụ cho những mục đích trục lợi cá nhân, gây tổn hại cho cộng đồng.