#Deepfakes are everywhere, but #DigitalForensics investigators are fighting back:
-
#Deepfakes are everywhere, but #DigitalForensics investigators are fighting back:
@FabMusacchio So if I want to commit a murder, I have years to prepare it and I know the place will be surveilled with cameras, I should pave it with slightly non-parallell tiles, to get a plausible deniability.
-
@grototo @AudeCaussarieu On verrait un autre genre de déformation, pas des trucs au pif comme ça, je dirais ? De toute façon dans le genre de photo montré est rarement prise en grand angle...
@legendarybassoon @grototo @AudeCaussarieu
Oui, je suppose ça ferait une forme pas exacte, mais pas random.
L'images des cubes par exemple, il y aurait de la symétrie, pas juste un des points qui va n'importe où.Et j'imagine la gueule des prompts pour dire de se concentrer sur les points de fuite, difficile à décrire en langage "naturel". Avec un peu de chances ça va pas être facile à corriger.
-
#Deepfakes are everywhere, but #DigitalForensics investigators are fighting back:
@FabMusacchio beautiful analysis even though I'm still suspicious of lens distortions.
-
@AudeCaussarieu
J'aurais jamais pensé que les points de fuites pouvaient être une façon de vérifier la véracité d'une image. 🤯@mathieu_ @AudeCaussarieu
Ça, ça marchera jusqu'à ce que les IA génératives d'images se mettent à placer les éléments d'une image dans un espace en 3D. -
@legendarybassoon @grototo @AudeCaussarieu
Oui, je suppose ça ferait une forme pas exacte, mais pas random.
L'images des cubes par exemple, il y aurait de la symétrie, pas juste un des points qui va n'importe où.Et j'imagine la gueule des prompts pour dire de se concentrer sur les points de fuite, difficile à décrire en langage "naturel". Avec un peu de chances ça va pas être facile à corriger.
@nartagnan @legendarybassoon @grototo @AudeCaussarieu je suppose qu'on est déjà entré dans une nouvelle guerre "génération de fakes crédibles" vs "détection de fakes", comme on a déjà les crawlers/rate-limiter, pub/ad-blocker, tracker/anti-tracker, etc.
Donc oui, même si ce n'est pas facile (?), je ne serais pas surpris que les entreprises derrière ces générateurs d'images analysent les techniques de détection et fassent leur possible pour les rendre inopérantes.
-
@legendarybassoon @grototo @AudeCaussarieu
Oui, je suppose ça ferait une forme pas exacte, mais pas random.
L'images des cubes par exemple, il y aurait de la symétrie, pas juste un des points qui va n'importe où.Et j'imagine la gueule des prompts pour dire de se concentrer sur les points de fuite, difficile à décrire en langage "naturel". Avec un peu de chances ça va pas être facile à corriger.
@nartagnan l'uncanny valley dans 10 000 ans, si on est encore dans les parages : pourquoi la reconnaissance instinctive des lignes de fuite est devenue un enjeu de sélection naturelle ?
-
@nartagnan @legendarybassoon @grototo @AudeCaussarieu je suppose qu'on est déjà entré dans une nouvelle guerre "génération de fakes crédibles" vs "détection de fakes", comme on a déjà les crawlers/rate-limiter, pub/ad-blocker, tracker/anti-tracker, etc.
Donc oui, même si ce n'est pas facile (?), je ne serais pas surpris que les entreprises derrière ces générateurs d'images analysent les techniques de détection et fassent leur possible pour les rendre inopérantes.
@youen @legendarybassoon @grototo @AudeCaussarieu
Mais ça va coûter.
Même avec de la détection, s'ils veulent faire comme le claude code, aka "génère, on check, et tant que ça passe pas le check recommence, même si c'est 1000 fois", ça va leur coûter... 1000 fois plus cher.Et ils n'auront pas ce luxe encore très longtemps.
-
@nartagnan l'uncanny valley dans 10 000 ans, si on est encore dans les parages : pourquoi la reconnaissance instinctive des lignes de fuite est devenue un enjeu de sélection naturelle ?
@nartagnan en fait, je vois même pas comment intégrer ça au process d'entrainement, sans que cela devienne une machine à gaz, ce qui est déjà le cas however, genre encoder un raytracer
-
K kramse@helvede.net shared this topic
-
#Deepfakes are everywhere, but #DigitalForensics investigators are fighting back:
@FabMusacchio it is really telling that one of the most powerful tools to detect fake images is an artistic tool that any first year art school student knows about
-
#Deepfakes are everywhere, but #DigitalForensics investigators are fighting back:
@FabMusacchio Hello! Can I ask where the url shortener sends?
-
@mathieu_ @AudeCaussarieu
Ça, ça marchera jusqu'à ce que les IA génératives d'images se mettent à placer les éléments d'une image dans un espace en 3D.@Mourioche
Évidemment, ça me semble temporaire comme erreur.
@AudeCaussarieu -
@FabMusacchio Hello! Can I ask where the url shortener sends?
@ilusenn @FabMusacchio It's legit - the website of the scientific journal, Science (they picked scim.ag because it is short for Science magazine).
Here's the full URL: https://www.science.org/content/article/deepfakes-are-everywhere-godfather-digital-forensics-fighting-back
-
#Deepfakes are everywhere, but #DigitalForensics investigators are fighting back:
-
@ilusenn @FabMusacchio It's legit - the website of the scientific journal, Science (they picked scim.ag because it is short for Science magazine).
Here's the full URL: https://www.science.org/content/article/deepfakes-are-everywhere-godfather-digital-forensics-fighting-back
@JonnyT @FabMusacchio Thank you!
I try to keep the habit to ask everytime
-
@ilusenn @FabMusacchio It's legit - the website of the scientific journal, Science (they picked scim.ag because it is short for Science magazine).
Here's the full URL: https://www.science.org/content/article/deepfakes-are-everywhere-godfather-digital-forensics-fighting-back
@JonnyT Thanks! For I never click on URL shorteners ... like many people here. @ilusenn @FabMusacchio
-
#Deepfakes are everywhere, but #DigitalForensics investigators are fighting back:
-
#Deepfakes are everywhere, but #DigitalForensics investigators are fighting back:
@FabMusacchio good post
-
@JonnyT Thanks! For I never click on URL shorteners ... like many people here. @ilusenn @FabMusacchio
@NatureMC @ilusenn @FabMusacchio Definitely not a fan either but I am aware of where this one leads (or, at least, should).
-
@Mourioche
Évidemment, ça me semble temporaire comme erreur.
@AudeCaussarieu@mathieu_ @AudeCaussarieu Je mets ma main au feu que les IA génératives savent déjà le faire, si on leur demande dans le prompt
On va surement en arriver au même résultat que pour la presse ou la télévision : La confiance dans le média sera lié à la réputation du média et à rien d'autre...
-
@FabMusacchio beautiful analysis even though I'm still suspicious of lens distortions.
@f4grx @FabMusacchio sun rays are parallel, yet they meet at a point...?
