Deepfakes đã phát triển nhanh như thế nào chỉ trong vài năm
Bạn có thể đã thấy rằng báo cáo gần đây về cách 96% video deepfake trực tuyến mang tính khiêu dâm. Điều đó chắc chắn sẽ thay đổi trong những năm tới, tập trung vào việc thao túng chính trị và tuyên truyền giáo dục, người đứng đầu Deep Trace Labs, công ty đứng sau nghiên cứu.
Đối với tất cả các mối lo ngại ngày càng tăng đối với các cuộc tấn công sâu được sử dụng để thao túng bầu cử và gieo rắc sự hỗn loạn ở các quốc gia trên thế giới, phần lớn trong số họ thực sự còn trẻ hơn nhiều trong tự nhiên, ánh xạ khuôn mặt của các ngôi sao nữ lên cơ thể của các ngôi sao khiêu dâm (không nên ' t bất ngờ bất cứ ai quen thuộc với lịch sử của internet).
Trong câu chuyện gần đây của chúng tôi về các tác phẩm toàn thân , một công ty có trụ sở tại Amsterdam có tên Deep Trace Lab s, trong đó xác định nội dung do AI thao túng như vậy đã ám chỉ nghiên cứu sâu rộng của họ về bối cảnh truyền thông tổng hợp. Hôm nay, công ty đã xuất bản một báo cáo rất được mong đợi, Trạng thái của Deepfakes: Phong cảnh, Nguy cơ và Tác động , trong đó họ khám phá các tác phẩm sâu phổ biến trên các trang web, diễn đàn và ứng dụng di động.
Như Giorgio Patrini của Deep Trace Labs giải thích, nghiên cứu bắt đầu khi công ty thành lập vào năm 2017 và liên quan đến việc kiểm tra toàn diện các trang web, diễn đàn và dịch vụ. Các nhà nghiên cứu đã kết hợp thông qua các bài đăng cộng đồng và diễn đàn deepfake, xác định các yếu tố tối nghĩa và thích hợp để có được sự hiểu biết đầy đủ về bối cảnh mối đe dọa deepfake. Deep Trace đã thu thập dữ liệu từ các trang web, kênh, diễn đàn và cộng đồng này thông qua các API công khai và các công cụ đặc biệt mà họ đã phát triển nội bộ. Nó cũng liên quan đến việc xem xét các trang web hoặc các kênh YouTube trong đó không phải tất cả nội dung đều có khả năng sâu sắc.
Deep Trace nhận thấy rằng hiện tại có 14.678 video deepfake trực tuyến, 96% trong số đó là khiêu dâm. Hầu hết số đó là khuôn mặt của các nữ diễn viên nổi tiếng được vẽ trên cơ thể ngôi sao khiêu dâm. Thật vậy, hầu hết các mục tiêu sâu sắc là phụ nữ, trong khi hầu hết những người không có nội dung khiêu dâm đều có đàn ông. Hơn 90% các video YouTube được thực hiện sâu có các chủ đề phương Tây, từ nữ diễn viên và nhạc sĩ đến các chính trị gia và nhân vật của công ty. Nhưng Patrini nhấn mạnh rằng đây không chỉ là một hiện tượng phương Tây.
Patrini nói, các chủ đề phi phương Tây nổi bật trong gần một phần ba video trên các trang web khiêu dâm deepfake, với các ca sĩ K-pop Hàn Quốc chiếm một phần tư trong số các đối tượng được nhắm mục tiêu, Patrini nói. Voi Điều này chỉ ra rằng phim khiêu dâm deepfake là một hiện tượng ngày càng toàn cầu.
Patrini cho biết, phần lớn dữ liệu của chúng tôi cho thấy phần lớn thực sự vẫn là các diễn viên nhưng với một nhóm thiểu số đáng chú ý là các nhà lãnh đạo chính trị và doanh nghiệp, ông Patrini nói. Tôi nghĩ rằng điều này có thể được quy cho cơ chế của sức sống có liên quan đến các tác phẩm sâu không mang tính khiêu dâm. Những người sáng tạo chủ yếu là những người có sở thích đang cố gắng tạo ra hàng giả chất lượng cao. Chọn các nhân vật nổi tiếng như Elon Musk, Donald Trump hoặc Nicholas Cage có nghĩa là tác phẩm sâu sắc của bạn có nhiều khả năng được xem và cũng thêm một yếu tố hài hước (ví dụ, hình ảnh đặc biệt của Nicholas Cage trên cơ thể Lois Lane trong Superman ).
Trong vài năm qua, đã có một sự bùng nổ của các bài báo về Mạng đối thủ sáng tạo (GANs), đó là hai mạng thần kinh, một bộ tổng hợp hoặc trình tạo và một bộ dò tìm tạo ra hình ảnh hoặc video sâu, sau đó xem xét chất lượng trong một vòng phản hồi cho đến khi sản phẩm cuối cùng được tinh chế một cách thuyết phục, theo báo cáo. GAN hoàn toàn không phải là người đứng sau deepfakes, nhưng Patrini nói rằng họ chắc chắn là một trong những phương pháp tạo thế hệ phổ biến và hiệu quả nhất được hỗ trợ bởi việc học sâu.
Nghiên cứu của Deep Trace cho thấy rằng sự tăng trưởng đáng chú ý về khối lượng xuất bản của GAN chỉ có thể gián tiếp tương quan với hai hiện tượng. Deep Trace không thể thiết lập mối liên hệ nhân quả trực tiếp giữa nghiên cứu GAN nhiều hơn và sự gia tăng của các tác phẩm sâu.
Patrini cho biết thêm nhiều người, và không chỉ các nhà nghiên cứu tiến sĩ, có thể thử nghiệm và đưa ra các biến thể thuật toán mới, [và] chúng ta có thể gián tiếp đo lường điều này bằng sự tăng trưởng trong các bài báo mà Patrini nói. Xuất bản công việc thử nghiệm nhiều hơn và mở rộng cho các ứng dụng mới là dấu hiệu cho thấy những ý tưởng này có khả năng được chuyển thành mã có thể tái sử dụng và các công cụ hiệu quả và đáng tin cậy hơn có thể được sử dụng bởi nonexperts.
Deep Trace cũng lưu ý rằng các cộng đồng sáng tạo Deepfake đang phát triển. Github, 4chan, 8chan và các trang web dựa trên diễn đàn khác đều chia sẻ mã deepfake mã nguồn mở.
Một điểm quan trọng mà chúng tôi ghi nhận trong báo cáo là các cộng đồng nhất định có động lực và hoạt động rất khác so với các cộng đồng khác, theo ông Patrini giải thích. Nếu chúng ta đang xem xét các tiêu cực, rõ ràng một số cộng đồng và diễn đàn chủ yếu tập trung vào việc sử dụng các công cụ tạo deepfake cho nội dung khiêu dâm deepfake không đồng thuận.
Một số trong những cộng đồng này, Patrini nói, nổi tiếng với việc lưu trữ nội dung bên lề là bất hợp pháp hoặc đường biên giới, như 4chan và 8chan. Việc thương mại hóa các công cụ tạo deepfake trên các nền tảng này có thể sẽ dẫn đến công nghệ duy trì các trường hợp sử dụng có hại và độc hại, như đe doạ trực tuyến hoặc tuyên truyền chính trị.
Nhưng Patrini nhanh chóng lưu ý rằng các nền tảng khác được tạo ra bởi những người có sở thích và những cá nhân khác dường như quan tâm nhiều hơn đến việc tạo ra các tác phẩm sâu giống như Deepfake YouTubers, như người dùng Ctrl Shift Face , người nổi tiếng với khuôn mặt của Tom Cruise và Al Pacino .
Patrini nói rằng những cách sử dụng này rõ ràng là tích cực, nhưng chắc chắn chúng không độc hại đối với mệnh giá. Và bởi vì Deepfakes không chỉ là một hiện tượng phương Tây, Deep Trace tin rằng nó sẽ yêu cầu hành động toàn cầu để chống lại việc sử dụng độc hại.
Patrini cho biết, có một cơ hội quan trọng trong việc tìm kiếm các doanh nghiệp, theo quan sát bởi số lượng các công cụ và trang web khác nhau đã có sẵn, theo ông Patrini, lưu ý rằng điều này cung cấp khả năng tiếp cận và tăng khả năng tiếp cận của các công cụ. Chỉ một mình ý tưởng về Deepfakes là đủ để làm mất ổn định các quá trình chính trị.
Đối với tất cả các mối lo ngại ngày càng tăng đối với các cuộc tấn công sâu được sử dụng để thao túng bầu cử và gieo rắc sự hỗn loạn ở các quốc gia trên thế giới, phần lớn trong số họ thực sự còn trẻ hơn nhiều trong tự nhiên, ánh xạ khuôn mặt của các ngôi sao nữ lên cơ thể của các ngôi sao khiêu dâm (không nên ' t bất ngờ bất cứ ai quen thuộc với lịch sử của internet).
Trong câu chuyện gần đây của chúng tôi về các tác phẩm toàn thân , một công ty có trụ sở tại Amsterdam có tên Deep Trace Lab s, trong đó xác định nội dung do AI thao túng như vậy đã ám chỉ nghiên cứu sâu rộng của họ về bối cảnh truyền thông tổng hợp. Hôm nay, công ty đã xuất bản một báo cáo rất được mong đợi, Trạng thái của Deepfakes: Phong cảnh, Nguy cơ và Tác động , trong đó họ khám phá các tác phẩm sâu phổ biến trên các trang web, diễn đàn và ứng dụng di động.
Như Giorgio Patrini của Deep Trace Labs giải thích, nghiên cứu bắt đầu khi công ty thành lập vào năm 2017 và liên quan đến việc kiểm tra toàn diện các trang web, diễn đàn và dịch vụ. Các nhà nghiên cứu đã kết hợp thông qua các bài đăng cộng đồng và diễn đàn deepfake, xác định các yếu tố tối nghĩa và thích hợp để có được sự hiểu biết đầy đủ về bối cảnh mối đe dọa deepfake. Deep Trace đã thu thập dữ liệu từ các trang web, kênh, diễn đàn và cộng đồng này thông qua các API công khai và các công cụ đặc biệt mà họ đã phát triển nội bộ. Nó cũng liên quan đến việc xem xét các trang web hoặc các kênh YouTube trong đó không phải tất cả nội dung đều có khả năng sâu sắc.
Deep Trace nhận thấy rằng hiện tại có 14.678 video deepfake trực tuyến, 96% trong số đó là khiêu dâm. Hầu hết số đó là khuôn mặt của các nữ diễn viên nổi tiếng được vẽ trên cơ thể ngôi sao khiêu dâm. Thật vậy, hầu hết các mục tiêu sâu sắc là phụ nữ, trong khi hầu hết những người không có nội dung khiêu dâm đều có đàn ông. Hơn 90% các video YouTube được thực hiện sâu có các chủ đề phương Tây, từ nữ diễn viên và nhạc sĩ đến các chính trị gia và nhân vật của công ty. Nhưng Patrini nhấn mạnh rằng đây không chỉ là một hiện tượng phương Tây.
Patrini nói, các chủ đề phi phương Tây nổi bật trong gần một phần ba video trên các trang web khiêu dâm deepfake, với các ca sĩ K-pop Hàn Quốc chiếm một phần tư trong số các đối tượng được nhắm mục tiêu, Patrini nói. Voi Điều này chỉ ra rằng phim khiêu dâm deepfake là một hiện tượng ngày càng toàn cầu.
Patrini cho biết, phần lớn dữ liệu của chúng tôi cho thấy phần lớn thực sự vẫn là các diễn viên nhưng với một nhóm thiểu số đáng chú ý là các nhà lãnh đạo chính trị và doanh nghiệp, ông Patrini nói. Tôi nghĩ rằng điều này có thể được quy cho cơ chế của sức sống có liên quan đến các tác phẩm sâu không mang tính khiêu dâm. Những người sáng tạo chủ yếu là những người có sở thích đang cố gắng tạo ra hàng giả chất lượng cao. Chọn các nhân vật nổi tiếng như Elon Musk, Donald Trump hoặc Nicholas Cage có nghĩa là tác phẩm sâu sắc của bạn có nhiều khả năng được xem và cũng thêm một yếu tố hài hước (ví dụ, hình ảnh đặc biệt của Nicholas Cage trên cơ thể Lois Lane trong Superman ).
Trong vài năm qua, đã có một sự bùng nổ của các bài báo về Mạng đối thủ sáng tạo (GANs), đó là hai mạng thần kinh, một bộ tổng hợp hoặc trình tạo và một bộ dò tìm tạo ra hình ảnh hoặc video sâu, sau đó xem xét chất lượng trong một vòng phản hồi cho đến khi sản phẩm cuối cùng được tinh chế một cách thuyết phục, theo báo cáo. GAN hoàn toàn không phải là người đứng sau deepfakes, nhưng Patrini nói rằng họ chắc chắn là một trong những phương pháp tạo thế hệ phổ biến và hiệu quả nhất được hỗ trợ bởi việc học sâu.
Nghiên cứu của Deep Trace cho thấy rằng sự tăng trưởng đáng chú ý về khối lượng xuất bản của GAN chỉ có thể gián tiếp tương quan với hai hiện tượng. Deep Trace không thể thiết lập mối liên hệ nhân quả trực tiếp giữa nghiên cứu GAN nhiều hơn và sự gia tăng của các tác phẩm sâu.
Patrini cho biết thêm nhiều người, và không chỉ các nhà nghiên cứu tiến sĩ, có thể thử nghiệm và đưa ra các biến thể thuật toán mới, [và] chúng ta có thể gián tiếp đo lường điều này bằng sự tăng trưởng trong các bài báo mà Patrini nói. Xuất bản công việc thử nghiệm nhiều hơn và mở rộng cho các ứng dụng mới là dấu hiệu cho thấy những ý tưởng này có khả năng được chuyển thành mã có thể tái sử dụng và các công cụ hiệu quả và đáng tin cậy hơn có thể được sử dụng bởi nonexperts.
Deep Trace cũng lưu ý rằng các cộng đồng sáng tạo Deepfake đang phát triển. Github, 4chan, 8chan và các trang web dựa trên diễn đàn khác đều chia sẻ mã deepfake mã nguồn mở.
Một điểm quan trọng mà chúng tôi ghi nhận trong báo cáo là các cộng đồng nhất định có động lực và hoạt động rất khác so với các cộng đồng khác, theo ông Patrini giải thích. Nếu chúng ta đang xem xét các tiêu cực, rõ ràng một số cộng đồng và diễn đàn chủ yếu tập trung vào việc sử dụng các công cụ tạo deepfake cho nội dung khiêu dâm deepfake không đồng thuận.
Một số trong những cộng đồng này, Patrini nói, nổi tiếng với việc lưu trữ nội dung bên lề là bất hợp pháp hoặc đường biên giới, như 4chan và 8chan. Việc thương mại hóa các công cụ tạo deepfake trên các nền tảng này có thể sẽ dẫn đến công nghệ duy trì các trường hợp sử dụng có hại và độc hại, như đe doạ trực tuyến hoặc tuyên truyền chính trị.
Nhưng Patrini nhanh chóng lưu ý rằng các nền tảng khác được tạo ra bởi những người có sở thích và những cá nhân khác dường như quan tâm nhiều hơn đến việc tạo ra các tác phẩm sâu giống như Deepfake YouTubers, như người dùng Ctrl Shift Face , người nổi tiếng với khuôn mặt của Tom Cruise và Al Pacino .
Patrini nói rằng những cách sử dụng này rõ ràng là tích cực, nhưng chắc chắn chúng không độc hại đối với mệnh giá. Và bởi vì Deepfakes không chỉ là một hiện tượng phương Tây, Deep Trace tin rằng nó sẽ yêu cầu hành động toàn cầu để chống lại việc sử dụng độc hại.
Patrini cho biết, có một cơ hội quan trọng trong việc tìm kiếm các doanh nghiệp, theo quan sát bởi số lượng các công cụ và trang web khác nhau đã có sẵn, theo ông Patrini, lưu ý rằng điều này cung cấp khả năng tiếp cận và tăng khả năng tiếp cận của các công cụ. Chỉ một mình ý tưởng về Deepfakes là đủ để làm mất ổn định các quá trình chính trị.
Nhận xét
Đăng nhận xét