21
En Espagne, des dizaines de collégiennes victimes de photos nues générées par IA
(english.elpais.com)
you are viewing a single comment's thread
view the rest of the comments
view the rest of the comments
this post was submitted on 20 Sep 2023
21 points (95.7% liked)
France
2203 readers
68 users here now
La France et les Français
Communautés principales
Nous rejoindre sur Matrix: https://matrix.to/#/#jlai.lu:matrix.org
FAQ, guides et ressources :
Actualité internationale
Loisirs:
- !cineseries@jlai.lu
- !cyclisme@sh.itjust.works
- !jardin@lemmy.world
- !jeuxdesociete@lemmy.world
- !jeuxvideo@jlai.lu
- !livres@jlai.lu
- !motardie@jlai.lu
- !sport@jlai.lu
- !technologie@jlai.lu
- !tournesol@jlai.lu
Vie Pratique:
Société:
Villes/Régions
- !bretagne@jlai.lu
- !grenoble@jlai.lu
- !lille@jlai.lu
- !lyon@lemmy.world
- !marseille@jlai.lu
- !nantes@sh.itjust.works
- !orleans@lemmy.world
- !paris@jlai.lu
- !toulouse@jlai.lu
Pays:
Humour:
Fedivers:
Règles
-
Multi-lingual community: posts in other language than French are allowed. 🚀
-
Tous les francophones sont bienvenus. 🐌
-
Remember the human : pas d’insultes, pas d’agressivité, pas de harcèlement entre utilisateurs. 🤖
-
Xénophobie, racisme et autre forme de discrimination sont interdits.🌈
-
Pas de doublon. Pas de spam. Évitez les paywalls autant que possible.☔
-
Utilisez la fonction "Report" pour signaler le contenu contrevenant aux règles.🏴
-
Le contenu doit être en rapport avec la France ou la population française.🇨🇵
Communauté de secours:
founded 1 year ago
MODERATORS
J'ai eu la même réflexion quand j'ai joué avec l'IA. J'en étais à spécifier comme négative prompt de na pas avoir de femmes, de ne pas avoir de femme sexy, de ne pas avoir de nues. La plupart des modèles sont surentraînés sur des femmes sexy. Pas sur des femmes normales.
Ah je vois, ya donc pas besoin d'avoir un prompt pour avoir ce type de résultat en faite. :/
En fait tu peux choisir ton modèle de génération. Le modèle de base semble être assez peu biaisé. Il connaît un peu tout moyennement. Les résultats sont assez bof.
Puis tu as plein de modèles enrichis. Ici une base : https://civitai.com/models
Comme tu peux le constater. La "femme" est un sujet de préoccupation.
La representation masculine aussi. J'imagine que c'est l'archétype du soldat ? :D
@Sphks @Snoopy en même temps, les mecs qui sont derrière ces modèles devaient avoir des stocks assez conséquents d'images de "référence", alors de là à alimenter leurs entraînements avec...
Pour revenir au sujet initial (les fakes en Espagne), ça ressemble plus à l'oeuvre d'un truc de remplacement de face (genre Facefusion) qu'à un Stablediffusion/Midjourney/... sur lesquels ont peut trainer des modèles pour ressembler à une-telle, mais c'est cher payer le deepfake...
Les datasets d’entraînement sont des choses genre DeviantArt qui, oui, a pas mal de nanas en petites tenues. Ils sont très conscients des biais d'apprentissage et les corrigent autant qu'ils peuvent, mais va voir sur civitai les modèles qui sont entraînés et partagés par des particulier. À 90% c'est de la waifu. Y a pas de surprise, ça matche la demande.
On peut faire de l'inpaint avec stablediffusion, pas besoin de faire du finetuning: tu prends une photo, tu gardes le visage mais tu change la pose ou le décor.
Avec un photomontage on peut tout faire. La différence c'est la facilité élaborer un fantasme à partir d'un photo de quelqu'un qu'on connait.
Après j'ai lu qu'iels mettaient des garde-fou dans le programme des IA pour exclure certain termes de recherche et éviter cette situation.
@Snoopy une partie de ces garde-fous (sans rentrer dans les détails) se lève en commentant une ligne dans le code, hein
Oui, c'etait dans ce même journal. Ça rend la tache un peu plus compliqué.
Les outils en ligne peuvent être censurés oui, mais les outils ouverts, non.
Voilà.
C'est entre les deux je dirais
@Camus possible ; ça dépend si les clichés "avant remplacement de face" étaient originaux ou pas