[Update] Mặt trái của AI Deep fake, Deepnude bị phát hiện tiếp tục đánh cắp và tạo ra những bức ảnh không đứng đắn | deepnude – Hongkong.xemloibaihat

​
Mới đây, theo điều tra, phần mềm tạo ảnh khiêu dâm này đã xuất hiện trở lại trong ứng dụng nhắn tin tức thời-Telegram. Phần mềm này đã phát hành công khai khoảng 104.852 hình ảnh khiêu dâm trên nền tảng TeleGram , nhiều dữ liệu gồm các hình ảnh được chia sẻ công khai. Quan trọng hơn, 70% những bức hình này đều là của những người phụ nữ có thật trên mạng xã hội, thậm chí là trẻ vị thành niên. Nói cách khác, những bức ảnh tự chụp hàng ngày được chia sẻ trên các phương tiện truyền thông xã hội như Facebook, Tiktok, .v.v.v có khả năng được sử dụng để tạo ra những bức ảnh không đứng đắn này.

DeepNude đang để mắt đến “những người bạn có thể biết”

Theo một cuộc điều tra này đến từ công ty an ninh mạng Sensity có trụ sở tại Amsterdam, trong chiến dịch “tình báo về mối đe dọa trực quan”, đặc biệt là việc phổ biến các video giả . Cuộc điều tra của họ cho thấy tính đến cuối tháng 7, tất cả bảy kênh chính trên nền tảng Telegram đều đang sử dụng phần mềm DeepNude.

​
Phần mềm Deepnude thu hút 103.585 người dùng trên toàn thế giới, trong đó kênh có nhiều người dùng nhất là 45.615. Hầu hết những người dùng này tập trung ở Nga và các khu vực lân cận của Đông Âu. Có thể có ba lý do chính dẫn đến sự bùng nổ của phần mềm này.

Quá trình tạo ảnh nude rất dễ dàng chỉ bằng một cú nhấp chuột
​

Quá trình tạo ảnh nude rất dễ dàng chỉ bằng một cú nhấp chuột

– Thứ hai là nó miễn phí cho tất cả mọi người. Tuy nhiên, nó cũng có mô hình tạo ra lợi nhuận. Những bức ảnh khỏa thân mà người dùng không trả tiền có được sẽ bị gắn nhãn hình mờ watermark hoặc chỉ bị lộ một phần. Người dùng có thể trả 1,28 đô la Mỹ để có được những bức ảnh không có hình mờ, nhưng sự cho phép chỉ giới hạn ở 100 bức ảnh trong bảy ngày.

– Thứ ba là lấy ảnh khỏa thân của những người thân quen. Không có gì lạ khi Deepfake giả mạo các video khiêu dâm, chủ yếu nhắm vào những người nổi tiếng. Tuy nhiên, theo một cuộc khảo sát dư luận, phần lớn người dùng quan tâm đến “những người phụ nữ mà họ biết ngoài đời” hơn, chiếm 63%.

​

Với các lý do như vậy, bất kỳ người dùng nào của DeepNude cũng có thể tạo ảnh khỏa thân với bất kỳ ảnh nào. Theo dữ liệu công khai trên nền tảng TeleGram, nhiều phụ nữ trong ảnh là nhân viên văn phòng và sinh viên đại học. Những bức ảnh đều là ảnh tự chụp từ các nền tảng như TikTok, Instagram và Facebook. Một điểm cần lưu ý là phần mềm này chỉ nhằm và các bức ảnh về phụ nữ. Nếu bạn tải lên một bức ảnh nam hoặc bất kỳ bức ảnh vô tri vô giác nào khác, hệ thống sẽ tự động được thay thế bằng cơ thể của phụ nữ và được thay thế bởi các bộ phận tương ứng.

Theo nhóm trưởng Giorgio Patrini của Sensity cho biết hơn 680.000 phụ nữ đã bị làm giả ảnh khiêu dâm và tải lên các nền tảng truyền thông công cộng trong những trường hợp không xác định. Dữ liệu điều tra liên quan đã được tiết lộ cho công chúng, và các cơ quan thực thi pháp luật liên quan cũng đã mở một cuộc điều tra. Cho đến nay, Telegram vẫn chưa đưa ra câu trả lời công khai về lý do tại sao phần mềm khiêu dâm lại được phép xuất hiện trên nền tảng của họ.

Cũng trong các cuộc khảo sát của Sensity, ngoài Telegram, nền tảng mạng xã hội khác của Nga là VK cũng đã phát hiện ra DeepNude , thậm chí còn bắt đầu quảng cáo phần mềm này một cách công khai. Tuy nhiên, ngay sau khi sự việc lộ ra, người có trách nhiệm liên quan đã lập tức phản hồi và phủ nhận tuyên bố này. Đồng thời, ông nhấn mạnh : ” VK không chấp nhận sự hiện diện của nội dung hoặc liên kết như vậy trên nền tảng và cũng sẽ ngăn cản cộng đồng phân phối chúng. Ngoài ra, các cộng đồng hoặc liên kết như vậy không được quảng cáo bằng công cụ quảng cáo VK , chúng tôi cũng tiến hành kiểm tra bổ sung và ngăn chặn nội dung không phù hợp xuất hiện.”

Được biết Deepnude là phần mềm giả mạo khiêu dâm , mục đích ban đầu được tạo ra vì sự tò mò và niềm đam mê công nghệ. Vào ngày 27 tháng 6 năm 2019, phần mềm DeepNude được ra mắt công khai lần đầu tiên và ngay sau đó, hệ thống đã ngừng hoạt động do lưu lượng người dùng quá nhiều. Chỉ trong vài giờ, phần mềm sử dụng AI chỉ bằng một cú nhấp chuột là có thể biến ảnh thường thành ảnh nude của phụ nữ này đã gây náo động cả trong và ngoài nước.

Các cáo buộc “xâm phạm quyền riêng tư và phân biệt giới tính” liên tục xuất hiện trên các nền tảng mạng xã hội lớn như Twitter, Reddit , Facebook.v.v.v. Chuyên gia tiên phong về AI và máy học Andrew Ng đăng dòng tweet rằng DeepNude là “một trong những ứng dụng kinh tởm nhất của trí tuệ nhân tạo.”

Sau khi nhận được nhiều phản ứng của cả thế giới , người đứng sau phát triển nó, Alberto (Alberto) đã công khai trả lời:

“Thế giới vẫn chưa sẵn sàng cho DeepNude!” “Tôi không phải là một người thích tìm hiểu (tò mò). Tôi là tín đồ của công nghệ.” Anh nhấn mạnh: “Tôi không quan tâm đến ảnh khỏa thân và những thứ tương tự. Một số người không muốn sử dụng chúng, vì vậy họ chỉ muốn để người khác không sử dụng chúng. Điều này thật ngu ngốc. Việc chặn và kiểm duyệt kiến thức kỹ thuật không thể ngăn chặn sự phát tán và lây lan của nó. . “

Người ta hiểu rằng nguồn cảm hứng nghiên cứu và phát triển của Alberto đến từ kỹ thuật chụp X-quang trên tạp chí. Anh rất quan tâm đến công nghệ AI, khi phát hiện ra mạng GAN có thể chỉnh sửa ảnh từ ngày sang đêm, anh nhận ra rằng sử dụng GAN cũng có thể chuyển ảnh có quần áo thành ảnh không có quần áo. Vì tò mò mà DeepNude cuối cùng đã được phát triển.

DeepNud dựa trên một phần mềm “dịch ảnh sang ảnh” mã nguồn mở có tên “pix2pix”, được phát hiện lần đầu tiên vào năm 2018 bởi các nhà nghiên cứu AI tại Đại học California, Berkeley. Công nghệ cốt lõi của nó là GAN, có thể tạo ra ảnh giả bằng cách xác định hình ảnh thực. Chẳng hạn như thay đổi ảnh phong cảnh từ ngày sang đêm hoặc từ đen trắng sang đủ màu.
Nhưng dù là vì tò mò hay vì muốn tìm hiểu sự phát triển công nghệ, phần mềm này quả thực đang lạm dụng công nghệ AI và gây ảnh hưởng xấu. Nhà văn nổi tiếng Nina Jankowicz đã nói rằng DeepNude có ảnh hưởng rất lớn đến phụ nữ trên toàn thế giới, đặc biệt là ở những quốc gia có xã hội bảo thủ như Nga. Nếu những bức ảnh khỏa thân sai sự thật được công bố công khai, nạn nhân có thể bị mất việc làm hoặc đối mặt với bạo lực gia đình.

Sensity cũng tuyên bố rằng những hình ảnh hoặc video khiêu dâm giả mạo này có khả năng được sử dụng như một phương tiện tống tiền và quấy rối.

Deepfake đe dọa, hoành hành

Không chỉ DeepNude, mà tất cả các phần mềm như Deepfake. Danielle Citron, giáo sư luật tại Đại học Boston đã nói: “Deepfake đã trở thành một vũ khí lợi hại chống lại phụ nữ”.
Công nghệ cốt lõi của phần mềm giả mạo sâu sắc Deepfake là mạng lưới GAN. GAN tạo ra hình ảnh, video hoặc giọng nói giả bằng công nghệ AI.

Kể từ năm 2017, khi Deepfake lần đầu tiên được sử dụng để làm video khiêu dâm về nhân vật Wonder Woman’s Sea Incident, mạng xã hội đã tràn ngập những video như vậy.

​

Theo thống kê, video khiêu dâm chiếm 96% tổng số video do Deepfake tạo ra. Với sự nâng cấp liên tục của công nghệ, độ trung thực của Deepfake đã đạt đến mức không thể phân biệt bằng mắt thường, và nó cũng bắt đầu được ứng dụng vào chính trị. Những video thay đổi khuôn mặt giả của các chính trị gia nổi tiếng như Donald Trump, Barack Hussein Obama, Elon Musk, … không hề hiếm gặp trên mạng xã hội.

Theo kết quả nghiên cứu mới nhất của giáo sư Jacob Shapiro của Đại học Princeton, từ năm 2013 đến 2019, mạng xã hội đã phát động 96 chiến dịch chính trị, trong đó 93% là nội dung gốc, 86% khuếch đại nội dung và 74% là bị bóp méo thực tế. Mục đích chủ yếu là làm mất uy tín của các chính trị gia, gây hiểu lầm cho công chúng, và làm gia tăng mâu thuẫn. Để đối phó với những mối đe dọa và thách thức do phần mềm Deepfake gây ra, trong năm 2019, Facebook đã đầu tư mạnh mẽ vào việc tung ra “Thử thách phát hiện sâu Deepfake” (Deepfake Detection Challenge, DFDC). Tới năm 2020, độ chính xác của công nghệ nhận dạng phát hiện Deepfake đã đạt 82,56%. Các học viện và các nhóm công ty khác cũng đang phát triển các phương pháp phát hiện Deepfake. Tuy nhiên, mặc dù ngày càng có nhiều phương pháp phát hiện và độ chính xác cao hơn, xu hướng tạo video giả vẫn chưa bị dập tắt.

Lý do có thể là do AI ngày càng thuận tiện hơn trong việc tạo ra nội dung sai lệch, ví dụ như DeepNude chỉ cần một bức ảnh và mọi người đều có thể sử dụng nó. Và thứ hai, theo Sensity đã nói, DeepNude vẫn nằm trong vùng xám hợp pháp. Vụ án DeepNude tiếp tục – khi dịch vụ này đã sớm được rao bán và các đoạn mã DeepNude đã xuất hiện trong GitHub.

Gần một năm rưỡi sau, vào tháng 10 năm 2020, các chuyên gia an ninh mạng từ Sensity đã nói về hệ sinh thái deepfake trong telegram – các kênh, cuộc trò chuyện có những con bot có thể “lột đồ” các cô gái bằng thuật toán. DeepNude xuất hiện dưới dạng này hay dạng khác và chúng hoạt động theo nguyên tắc tương tự – chúng loại bỏ quần áo của bất kỳ bức ảnh nào. Vì vậy, để đóng được chiếc hộp Deepfake Pandora cần có sự ràng buộc về thể chế và đạo đức của con người.

​

(VN-Z.vn) Ngày 21 tháng 10 năm 2020, Mình nghe ở đâu đó có câu nói ” Công nghệ là vô tội, thiện ác ở trong lòng người.” Mặt trái của AI Deep fake đánh cắp “ảnh tự sướng và tạo ra những bức ảnh không đứng đắn. Bạn còn nhớ DeepNude “một cú nhấp chuột AI sẽ lột đồ” chứ? Vào tháng 6 năm 2019, phần mềm chuyên sâu này được phát hành trong vài giờ và nhanh chóng bị quá tải do có quá nhiều yêu cầu truy cập. Nguyên nhân là phần mềm này có thể cởi quần áo của phụ nữ chỉ bằng một cú nhấp chuột và tạo ra một số lượng lớn hình ảnh khiêu dâm.Mới đây, theo điều tra, phần mềm tạo ảnh khiêu dâm này đã xuất hiện trở lại trong ứng dụng nhắn tin tức thời-Telegram. Phần mềm này đã phát hành công khai khoảng 104.852 hình ảnh khiêu dâm trên nền tảng TeleGram , nhiều dữ liệu gồm các hình ảnh được chia sẻ công khai. Quan trọng hơn, 70% những bức hình này đều là của những người phụ nữ có thật trên mạng xã hội, thậm chí là trẻ vị thành niên. Nói cách khác, những bức ảnh tự chụp hàng ngày được chia sẻ trên các phương tiện truyền thông xã hội như Facebook, Tiktok, .v.v.v có khả năng được sử dụng để tạo ra những bức ảnh không đứng đắn này.Theo một cuộc điều tra này đến từ công ty an ninh mạng Sensity có trụ sở tại Amsterdam, trong chiến dịch “tình báo về mối đe dọa trực quan”, đặc biệt là việc phổ biến các video giả . Cuộc điều tra của họ cho thấy tính đến cuối tháng 7, tất cả bảy kênh chính trên nền tảng Telegram đều đang sử dụng phần mềm DeepNude.Phần mềm Deepnude thu hút 103.585 người dùng trên toàn thế giới, trong đó kênh có nhiều người dùng nhất là 45.615. Hầu hết những người dùng này tập trung ở Nga và các khu vực lân cận của Đông Âu. Có thể có ba lý do chính dẫn đến sự bùng nổ của phần mềm này.- Một là thao tác rất đơn giản, bạn chỉ cần một bức ảnh, sau khi tải lên phần mềm, một bức ảnh khỏa thân có thể tự động tạo ra trong vài giây mà không cần kiến thức kỹ thuật hay phần cứng hỗ trợ đặc biệt nào.- Thứ hai là nó miễn phí cho tất cả mọi người. Tuy nhiên, nó cũng có mô hình tạo ra lợi nhuận. Những bức ảnh khỏa thân mà người dùng không trả tiền có được sẽ bị gắn nhãn hình mờ watermark hoặc chỉ bị lộ một phần. Người dùng có thể trả 1,28 đô la Mỹ để có được những bức ảnh không có hình mờ, nhưng sự cho phép chỉ giới hạn ở 100 bức ảnh trong bảy ngày.- Thứ ba là lấy ảnh khỏa thân của những người thân quen. Không có gì lạ khi Deepfake giả mạo các video khiêu dâm, chủ yếu nhắm vào những người nổi tiếng. Tuy nhiên, theo một cuộc khảo sát dư luận, phần lớn người dùng quan tâm đến “những người phụ nữ mà họ biết ngoài đời” hơn, chiếm 63%.Với các lý do như vậy, bất kỳ người dùng nào của DeepNude cũng có thể tạo ảnh khỏa thân với bất kỳ ảnh nào. Theo dữ liệu công khai trên nền tảng TeleGram, nhiều phụ nữ trong ảnh là nhân viên văn phòng và sinh viên đại học. Những bức ảnh đều là ảnh tự chụp từ các nền tảng như TikTok, Instagram và Facebook. Một điểm cần lưu ý là phần mềm này chỉ nhằm và các bức ảnh về phụ nữ. Nếu bạn tải lên một bức ảnh nam hoặc bất kỳ bức ảnh vô tri vô giác nào khác, hệ thống sẽ tự động được thay thế bằng cơ thể của phụ nữ và được thay thế bởi các bộ phận tương ứng.Theo nhóm trưởng Giorgio Patrini của Sensity cho biết hơn 680.000 phụ nữ đã bị làm giả ảnh khiêu dâm và tải lên các nền tảng truyền thông công cộng trong những trường hợp không xác định. Dữ liệu điều tra liên quan đã được tiết lộ cho công chúng, và các cơ quan thực thi pháp luật liên quan cũng đã mở một cuộc điều tra. Cho đến nay, Telegram vẫn chưa đưa ra câu trả lời công khai về lý do tại sao phần mềm khiêu dâm lại được phép xuất hiện trên nền tảng của họ.Cũng trong các cuộc khảo sát của Sensity, ngoài Telegram, nền tảng mạng xã hội khác của Nga là VK cũng đã phát hiện ra DeepNude , thậm chí còn bắt đầu quảng cáo phần mềm này một cách công khai. Tuy nhiên, ngay sau khi sự việc lộ ra, người có trách nhiệm liên quan đã lập tức phản hồi và phủ nhận tuyên bố này. Đồng thời, ông nhấn mạnh : ” VK không chấp nhận sự hiện diện của nội dung hoặc liên kết như vậy trên nền tảng và cũng sẽ ngăn cản cộng đồng phân phối chúng. Ngoài ra, các cộng đồng hoặc liên kết như vậy không được quảng cáo bằng công cụ quảng cáo VK , chúng tôi cũng tiến hành kiểm tra bổ sung và ngăn chặn nội dung không phù hợp xuất hiện.”Được biết Deepnude là phần mềm giả mạo khiêu dâm , mục đích ban đầu được tạo ra vì sự tò mò và niềm đam mê công nghệ. Vào ngày 27 tháng 6 năm 2019, phần mềm DeepNude được ra mắt công khai lần đầu tiên và ngay sau đó, hệ thống đã ngừng hoạt động do lưu lượng người dùng quá nhiều. Chỉ trong vài giờ, phần mềm sử dụng AI chỉ bằng một cú nhấp chuột là có thể biến ảnh thường thành ảnh nude của phụ nữ này đã gây náo động cả trong và ngoài nước.Các cáo buộc “xâm phạm quyền riêng tư và phân biệt giới tính” liên tục xuất hiện trên các nền tảng mạng xã hội lớn như Twitter, Reddit , Facebook.v.v.v. Chuyên gia tiên phong về AI và máy học Andrew Ng đăng dòng tweet rằng DeepNude là “một trong những ứng dụng kinh tởm nhất của trí tuệ nhân tạo.”Sau khi nhận được nhiều phản ứng của cả thế giới , người đứng sau phát triển nó, Alberto (Alberto) đã công khai trả lời:”Thế giới vẫn chưa sẵn sàng cho DeepNude!” “Tôi không phải là một người thích tìm hiểu (tò mò). Tôi là tín đồ của công nghệ.” Anh nhấn mạnh: “Tôi không quan tâm đến ảnh khỏa thân và những thứ tương tự. Một số người không muốn sử dụng chúng, vì vậy họ chỉ muốn để người khác không sử dụng chúng. Điều này thật ngu ngốc. Việc chặn và kiểm duyệt kiến thức kỹ thuật không thể ngăn chặn sự phát tán và lây lan của nó. . “Người ta hiểu rằng nguồn cảm hứng nghiên cứu và phát triển của Alberto đến từ kỹ thuật chụp X-quang trên tạp chí. Anh rất quan tâm đến công nghệ AI, khi phát hiện ra mạng GAN có thể chỉnh sửa ảnh từ ngày sang đêm, anh nhận ra rằng sử dụng GAN cũng có thể chuyển ảnh có quần áo thành ảnh không có quần áo. Vì tò mò mà DeepNude cuối cùng đã được phát triển.DeepNud dựa trên một phần mềm “dịch ảnh sang ảnh” mã nguồn mở có tên “pix2pix”, được phát hiện lần đầu tiên vào năm 2018 bởi các nhà nghiên cứu AI tại Đại học California, Berkeley. Công nghệ cốt lõi của nó là GAN, có thể tạo ra ảnh giả bằng cách xác định hình ảnh thực. Chẳng hạn như thay đổi ảnh phong cảnh từ ngày sang đêm hoặc từ đen trắng sang đủ màu.Nhưng dù là vì tò mò hay vì muốn tìm hiểu sự phát triển công nghệ, phần mềm này quả thực đang lạm dụng công nghệ AI và gây ảnh hưởng xấu. Nhà văn nổi tiếng Nina Jankowicz đã nói rằng DeepNude có ảnh hưởng rất lớn đến phụ nữ trên toàn thế giới, đặc biệt là ở những quốc gia có xã hội bảo thủ như Nga. Nếu những bức ảnh khỏa thân sai sự thật được công bố công khai, nạn nhân có thể bị mất việc làm hoặc đối mặt với bạo lực gia đình.Sensity cũng tuyên bố rằng những hình ảnh hoặc video khiêu dâm giả mạo này có khả năng được sử dụng như một phương tiện tống tiền và quấy rối.Không chỉ DeepNude, mà tất cả các phần mềm như Deepfake. Danielle Citron, giáo sư luật tại Đại học Boston đã nói: “Deepfake đã trở thành một vũ khí lợi hại chống lại phụ nữ”.Công nghệ cốt lõi của phần mềm giả mạo sâu sắc Deepfake là mạng lưới GAN. GAN tạo ra hình ảnh, video hoặc giọng nói giả bằng công nghệ AI.Kể từ năm 2017, khi Deepfake lần đầu tiên được sử dụng để làm video khiêu dâm về nhân vật Wonder Woman’s Sea Incident, mạng xã hội đã tràn ngập những video như vậy.Theo thống kê, video khiêu dâm chiếm 96% tổng số video do Deepfake tạo ra. Với sự nâng cấp liên tục của công nghệ, độ trung thực của Deepfake đã đạt đến mức không thể phân biệt bằng mắt thường, và nó cũng bắt đầu được ứng dụng vào chính trị. Những video thay đổi khuôn mặt giả của các chính trị gia nổi tiếng như Donald Trump, Barack Hussein Obama, Elon Musk, … không hề hiếm gặp trên mạng xã hội.Theo kết quả nghiên cứu mới nhất của giáo sư Jacob Shapiro của Đại học Princeton, từ năm 2013 đến 2019, mạng xã hội đã phát động 96 chiến dịch chính trị, trong đó 93% là nội dung gốc, 86% khuếch đại nội dung và 74% là bị bóp méo thực tế. Mục đích chủ yếu là làm mất uy tín của các chính trị gia, gây hiểu lầm cho công chúng, và làm gia tăng mâu thuẫn. Để đối phó với những mối đe dọa và thách thức do phần mềm Deepfake gây ra, trong năm 2019, Facebook đã đầu tư mạnh mẽ vào việc tung ra “Thử thách phát hiện sâu Deepfake” (Deepfake Detection Challenge, DFDC). Tới năm 2020, độ chính xác của công nghệ nhận dạng phát hiện Deepfake đã đạt 82,56%. Các học viện và các nhóm công ty khác cũng đang phát triển các phương pháp phát hiện Deepfake. Tuy nhiên, mặc dù ngày càng có nhiều phương pháp phát hiện và độ chính xác cao hơn, xu hướng tạo video giả vẫn chưa bị dập tắt.Lý do có thể là do AI ngày càng thuận tiện hơn trong việc tạo ra nội dung sai lệch, ví dụ như DeepNude chỉ cần một bức ảnh và mọi người đều có thể sử dụng nó. Và thứ hai, theo Sensity đã nói, DeepNude vẫn nằm trong vùng xám hợp pháp. Vụ án DeepNude tiếp tục – khi dịch vụ này đã sớm được rao bán và các đoạn mã DeepNude đã xuất hiện trong GitHub.Gần một năm rưỡi sau, vào tháng 10 năm 2020, các chuyên gia an ninh mạng từ Sensity đã nói về hệ sinh thái deepfake trong telegram – các kênh, cuộc trò chuyện có những con bot có thể “lột đồ” các cô gái bằng thuật toán. DeepNude xuất hiện dưới dạng này hay dạng khác và chúng hoạt động theo nguyên tắc tương tự – chúng loại bỏ quần áo của bất kỳ bức ảnh nào. Vì vậy, để đóng được chiếc hộp Deepfake Pandora cần có sự ràng buộc về thể chế và đạo đức của con người.

Video s falešnou Gal Gadot, které odstartovalo deep fakes mánii koncem roku 2017.

Pamatujete ještě na „deep fakes“, videa vytvořená neuronovou sítí, kde je obličej jednoho člověka nahrazen obličejem člověka jiného? Nejčastějším využitím tohoto nástroje byla tvorba pornografických materiálů, obvykle anonymní tvůrci nalepili tvář známé herečky na pornografický klip. Sociální sítě, včetně Twitteru a Redditu, na začáku roku 2018, několik týdnů po jejich masivnějšího nástupu, zakázaly šíření těchto klipů, které odborníci označili za „nedobrovolnou pornografii“ (více v našem článku).

Na myšlenku aplikace DeepFakeApp letos navázal „malý tým“ anonymních programátorů z Estonska nástrojem DeepNude. Zatímco autor DeepFakeApp koncem roku 2017 víceméně tvrdil, že jde o výzkumný experiment, nový DeepNude nechodil kolem horké kaše: z fotky žen dělá pomocí analýzy obrazu a strojového učení fotky nahých žen. A nikoli zadarmo, ale za peníze. Prémiová verze, která dělá nahé fotky bez vodoznaku, stála 99 dolarů (přes dva tisíce korun).

Aplikace DeepNude (ukázka vytvořená autorem programu, redakčně rozmazáno)

Aplikace DeepNude se však na webu dlouho neohřála. Napřed web nevydržel masový zájem, později sám autor na základě negativní zpětné vazby oznámil, že „z důvodu hrozícího zneužití“ aplikaci bez náhrady stahuje. Těm, kdo si pořídili placenou verzi, nabídl vrácení peněz.

Po webu nyní kolují různé verze původní aplikace. Bezpečnostní odborníci varují uživatele, aby ji nestahovali, protože se z ní stal oblíbený trojský kůň pro šíření škodlivého software.

Jak aplikace fungovala

Na aplikaci jako první z velkých médií upozornily weby Vice a Verge. „Oblečení nahradí počítačový program obnaženými prsy a vulvou,“ uvedl Vice. „Když jsme do aplikace dali fotku muže, program nahradil kalhoty vulvou.“ Je tedy zřejmé, že neuronová síť aplikace se trénovala pouze na fotkách nahých žen.

Tvorba svlečené fotomontáže v aplikaci DeepNude

„DeepNude fungovala různě dobře na různých fotkách. Nejlépe si poradila s fotkami, na kterých oblečení už tak odhalovalo hodně,“ uvedl redaktor, který aplikaci vyzkoušel. „Vyzkoušeli jsme aplikaci na desítkách fotek, nejkvalitnějších výsledků jsme dosáhli na obrázcích s vysokým rozlišením.“

Tvorba svlečené fotomontáže v aplikaci DeepNude

Aplikace naprogramovaná v Pythonu zabrala po stažení přes 1 GB místa na disku. Ve verzi zdarma umožnila vytvoření obrázku, do kterého bylo vloženo logo aplikace a vodoznak. Placená verze nevkládala vodoznak a logo, ale stále vložila do výsledného „svlečeného“ obrázku několik menších nápisů „fake“, aby tak upozornila na to, že jde o fotomotnáž.

Generativní adversiální neuronová síť (GAN) se trénovala na desítce tisíců fotek nahých žen, podle programátora proto, že „bylo jednodušší je na webu nalézt“.

Jak funguje strojové učení generující “fotky”

Generativní adversiální síť GAN

Podle informací Technology Review programátor DeepNude využil tzv. generativní adversiální síť (Generative adversial network, zkráceně GAN). Tato síť jsou vlastně dvě neuronové sítě: tvůrce a kontrolor.

Celý proces je relativně zdlouhavý a komplikovaný, ale základní princip je jednoduchý. Tvůrčí síť začne generovat obrázky dle těch, na kterých se trénovala. Síť “Kontrolor” se snaží tyto (zpočátku náhodně) generované obrázky odlišit od skutečných fotek. Tvůrčí neuronová síť dostane informace o tom, které její výtvory sítem prošly a které ne, a díky tomu se postupně učí, jak lépe vytvářet uvěřitelné obrázky.

Výsledky, které Technet.cz mohl posoudit, nevypadaly většinou realisticky a rozhodně nedosahovaly úrovně profesionálně vytvořených montáží. Ve změněných částech fotky se objevovaly žluté artefakty podobné kompresi JPEG, anatomie vypadala místy nerealisticky, detaily prozrazovaly, že s fotkou není něco v pořádku. Generativní síť zřejmě nebyla natrénována a vyladěna tak profesionálně, jako tomu je třeba u generování tváří od vědců NVIDIA (a i tam občas vznikají nerealisticky vypadající výtvory).

Rychlost a automatizace výroby nahých montáží ale ukazovala, že lidé, kteří mají motivaci a dostatek času nazbyt, by s jejím využitím dokázali produkovat fotky svlečených žen, které by na první pohled nebo v nízkém rozlišení mohly působit důvěryhodně. To vše s minimálním úsilím a na fotce naprosto jakékoli ženy.

Hrozilo zneužití aplikace

Vývojářský tým krátce po zveřejnění oznámil konec projektu. A důvod? Prý šlo původně o projekt vytvořený pro zábavu, ze kterého se neměla stát masová záležitost. Vzhledem k obřímu počtu zájemců je prý vysoká pravděpodobnost zneužití jejich „svlékacího“ softwaru.

Je těžké si představit “legitimní využití” svlékací aplikace, za které by byli uživatelé ochotni platit. Naopak způsobů, jak počítačem svlečené motnáže žen zneužít, je bezpočet: vydírání, šikana, poškození pověsti, pomsta…

To samozřejmě kontrastuje s tím, že aplikaci nabízeli za peníze a měli připravený i navazující on-line službu, která umožnila svlečené fotky objednávat bez nutnosti instalace. Těžko je možné tvrdit, že autora nenapadlo, že by mohlo dojít ke zneužití. Jen těžko si lze představit legitimní využití takové aplikace, za které by zároveň byl někdo ochoten zaplatit tisíce korun.

Různých forem zneužití takové aplikace je naopak bezpočet: vydírání, veřejné zesměšňování, šikana, pomsta, poškození něčí pověsti atd. Všechny způsoby, kterými lze zneužít reálné nahé fotky, ovšem s tím rozdílem, že v tomto případě žena nemůže nijak zabránit jejich vzniku.

Autor aplikace informoval, že již neuvolní žádnou novou verzi a neumožní ani další použití webové aplikace. „Nechceme takto vydělávat peníze,“ dodal.

Za jeden falešný obrázek obnažené ženy si totiž účtoval 50 dolarů
(zhruba 1 100 Kč), jinak tělo zakryl vodoznak. „Svět ještě není na DeepNude připraven,“ uzavřel sdělení poněkud pokrytecky neznámý estonský programátor.

Na síti vzbudila aplikace různé – a celkem předvídatelné – reakce, ne nepodobné těm v případě pornografických montáží deep fakes. Naprostá většina uživatelů byli muži, naprostá většina obětí ženy.

„Aplikace DeepNude potvrzuje naše největší obavy ohledně toho, jakými jedinečnými způsoby mohou být audiovizuální nástroje zneužity proti ženám,“ uvedla pro Technology Review Mutale Nkode, výzkumnice Data and Society Research Institute. Aplikace zcela nepokrytě cílila na mužské publikum a nezastírala fakt, že uměla generovat pouze ženské pohlavní znaky.

Aplikace “obnažovala” jen ženy, s muži si poradit neuměla

Programátor, který si zachovává anonymitu a vystupuje pod přezdívkou „Alberto“, ruským novinářům sdělil, že jej inspirovala idea „rentgenových brýlí“ z dětství. Pro projekt použil algoritmus, který se používá k „dokreslení“ neúplných objektů. DeepNude přirovnal k Photoshopu, ve kterém lze dosáhnout stejných výsledků.

Placená verze programu DeepNude odstranila z vygenerované montáže vodotisk a logo, nechala však několik nápisů „fake“ (redakčně rozostřeno).

V licenčním ujednání sice tvrdil, že každý obrázek upravený softwarem DeepNude je „falešnou parodií“ a že jde o „zábavu nepropagující sexuálně explicitní obrázky“, nicméně server Verge upozornil, že aplikace působí v právní „šedé zóně“. To, že je obrázek montáží, neznamená, že bude jako montáž vždy chápán. Tvorba takové montáže tedy může mít reálné následky.

Huffington Post například popisuje příběh osmadvacetileté ženy, která se stala terčem videomontáže typu „deep fake“. Někdo její obličej „narouboval“ na pornografické video a výsledek šířil po síti mezi její přátele a známé. Přestože žena věděla, že nejde o její video, byl výsledek děsivě realistický. „Bylo to hrozné,“ popsala žena. „Nikdy jsem nic takového neviděla. Když jde o fotomontáž, je to statická fotka a je celkem evidentní, že může být falešná. Ale když je to váš vlastní obličej, který se pohybuje a reaguje na okolí, vyvolává to ve mně paniku. Nemůžete ovlivnit, co lidé s vašimi fotkami udělají.“

Výsledky jsou nedokonalé. Zatím

Právě ženy jsou – i vzhledem k tomu, že ženská nahota je obvykle vnímána jinak než nahota mužská – častější obětí různých forem kyberšikany. Někdy jde o vydírání nahými fotkami, jindy o zveřejnění nahých fotek a videí bez svolení (tzv. revenge porn). Obrana proti takovému zásahu do soukromí a důstojnosti je složitá a mnohdy vyčerpávající.

Jak videa vytvořená aplikací FakeApp, tak „svlečené“ fotografie vytvořené aplikací DeepNude, obvykle obsahují řadu indicií, které prozradí, že jde o fotomontáž generovanou počítačem. Videa například mají problém napodobit přirozený pohyb očí, také vlasy před obličejem způsobí tvorbu artefaktů jasně prozrazujících, že jde o montáž.

Ukázka “deep fake” montáže. Vlevo původní video, vpravo montáž.

Pokud si však někdo dá práci s vyladěním parametrů a vytrénováním modelu pro nahrazování obličeje, může pomocí strojového učení dosáhnout fotorealistických výsledků. Takové video pak lze využít například pro dehonestaci politického protivníka. Nebo pro testování toho, jaké jsou hranice umění a osobnostních práv.

Zatímco tvorba fotomontáží tradičními metodami vyžaduje čas a určité schopnosti či praxi, nové algoritmy využívající strojového učení začínají generovat stále realističtější obrazy a videa. Toho lze zneužít na jednotlivé úrovni k vtípkům a šikaně, v masovém měřítku pak třeba k šíření poplašné zprávy nebo dehonestaci politika v klíčový okamžik. Obrana bude složitá. Musíme si zvykat na to, že vidět neznamená věřit.

„Technologie není neutrální,“ připomíná Sam Gregory, šéf neziskové organizace Witness zabývající se využívání audiovizuálních nástrojů při ochraně lidských práv. „Tato aplikace nemá jedno dobré a jedno špatné použití. Byla vytvořena z amorálních pohnutek. Měli bychom se soustředit na to, jaká etická pravidla a normy platí při tvorbě nástrojů pro vytváření obsahu.“