Al parecer se ha liado bastante por el uso de una web que usa la cara de fotos que subas y crea un desnudo...
Mucho jiji jaja entre los que han usado la web, hasta que lo han hecho menores con otras menores y ya pasamos a porno grafía infantil.
Los menores se enfrantan a cargos de hasta 9 años de prisión.
Hay gente que aún no es consciente de las consecuencias de sus actos y tener un acceso tan fácil a ciertas herramientas es muy peligroso
Para dar un poco de contexto a lo que dices.
Esto va a ser peligroso de narices. A las muchachas las pillaba fotos de las rrss y con la ia "las desnudaban" y las intentaban amedrentar para que les pagarán por no sacar a la luz esas fotos. Obviamente eso es un delito, pero habrá muchas que por miedo cederán.
Lo de la Ia se tendría que regular mas en muchos ámbitos para que no sea tan peligrosa. Imagínate que mañana pueden hacer una foto de ti desnuda en poses obscenas que mandan a tus jefes en el trabajo. Lo mismo acabas en la calle y demuestra después que la foto es falsa.
#3 ahí tienes el link. Si lo que quieres es fotos de adolescentes desnuda.... Tienes un problema.
El tema de las IAs en malas manos es un problema muy gordo. Mucha risa con los deepfakes de streamers en el equipo A pero la misma tecnología se puede usar para destrozarle la vida fácilmente a cualquiera. Que esto no esté en el foco principal de los gobiernos en cuanto a proteger a los ciudadanos me da escalofríos.
En este caso han sido los mismos niños pero la gente que postea fotos de sus hijos en redes sociales, incluso en estados de whatsapp me parece una irresponsabilidad brutal.
Supongo que hasta que no empiecen a ser comunes las consecuencias de tales actos, la gente aún no será consciente de la gravedad de lo que hace.
Obviamente por temas de honor y extorsión les debe caer la del pulpo y con razón, pero he escuchado en radio que les quieren acusar también por temas de pornografía infantil, lo cual me parece una completa estupidez y supongo que no llegará a nada por ahí.
La cagada es ponerse a rular las fotos por grupos. Si te haces unas foto de tus compis de clase para consumo propio no hay ningún problema.
Como los que se graban cometiendo delitos. Sin sentido alguno.
Ayer salió en canal extremadura.
http://www.canalextremadura.es/noticias/extremadura/al-menos-una-treintena-de-ninas-estarian-afectadas-por-la-manipulacion-de
Espero que les caiga una buena para que se les quiten a estos a otros las ganas de hacer estas cosas.
#5 #4 La legislación llega tarde siempre. Estos programas llevan circulando por la red con el nivel para hacer las poses y personas que quieras unos... ¿6-9 meses? La tecnología esta ya está en millones de ordenadores, no se puede cerrar ya. Incluso aunque los siguientes modelos salieran capados, reentrenarlos para volver a hacer estas cosas va a estar al alcance de muchos ordenadores, y cada vez más según pasen los años.
Es algo muy complicado de regular incluso poniendo medidas draconianas a lo que está y va a seguir siendo una industria en auge. Y los legisladores generalmente son abuelos o boomers que no se enteran de estos temas como para pedirles que regulen algo en condiciones, si es que pudieran desde un principio.
#8 La mayoría de países no penan ahora mismo nada que tenga que ver con IA, como no penan los dibujos. De hecho, lo que salga de ahí seguramente no sea un traslado 100%, por lo que es bastante difícil decir que hay una persona que ha sido 'desnudada'.
Aunque puede que en unos años empecemos a tener legislaciones como la de Australia o que se haga un tipo nuevo viendo como se va de mano esto. Porque a día de hoy, aunque es accesible, sigue requiriendo algo de práctica hacer lo que quieras y cuando alguien lo quiere facilitar demasiado (hacer un servicio web) lo tiran abajo en poco las autoridades del país que sea. Pero la tendencia es que sean cada vez más accesibles y fáciles de usar, por lo que cada vez el problema será mayor.
Como el tema no tiene mucho recorrido, en el sentido de que no puedes hacer lo que te plazca con la imagen de otras personas y eso es impepinable y un derecho legítimo al honor donde no hay que rascar, se puede abrir un debate paralelo con esta noticia.
¿Qué ocurriría de cara a la legislación por un lado y moral de la sociedad si un pedófilo crea pornografía generativa por IA de personas que no existen pero ultra-realista?
Porque eso tarde o temprano va a ocurrir.
Entiendo que lo punible será por la extorsión y por el derecho al honor. Pero nunca por pornografía infantil, al ser fotomontajes.
#15 Imagina después de una redada contra CP tener que demostrar que cada imagen requisada corresponda a una persona real y no sea generada por IA. Vaya marrón.
No sé si estoy diciendo una tontería ya que ignoro si la ley contepla casos así, aunque de momento lo dudo. ¿Qué dice al respecto de CP basado en ficción tipo anime?
Por cosas como esta, en España se acabará prohibiendo todo lo que tenga que ver con la IA.
Se debería controlar más a los menores...
#10 ¿como que no hay problema? Estan subiendo una foto tuya sin consentimiento a una web para que te despelote. Dudo que si quiera sea legal.
#21 Típico de este país y sociedad, para que ser punteros tecnológicos si podemos ser los catetos de toda la vida, los camareros, los de los chistes, las fiestas...
Pero la IA no te puede desnudar, no es el cuerpo real, es un cuerpo ficticio creado por la IA.
Es como si un artista hiperrealista coge la cara real de alguien y le dibuja un cuerpo. Lo problemático es hacer pasar eso como real públicamente, pero de ahí a pornografía infantil...
Tarde o temprano esto va a explotar. Las RRSS y ahora la IA son muy peligrosas para menores
#15 Ya existe pornografía infantil generada por IA
La putada del internet actual para la chavalada es que todo boomer se entera, días después por las noticias de Antena3, de las polémicas. Buenos tiempos en los que esto estaba repleto de pedófilos y nadie se enteraba.
#13 Yo ahí tengo dudas. También es muy sencillo hacer una ballesta, pero si yo monto un negocio en donde le voy vendiendo ballestas o piezas para montar ballestas a menores de edad, me pegan un puro de cuidado.
Una web donde subes caras de personas para que haga montajes de videos pornográficos es, casi por definición, un negocio sustentado casi en exclusiva para cometer delitos. Y si tú tienes en tu ordenador una herramienta que sabes que si la usas te enfrentas a penas muy serias de cárcel, la acabas borrando por no usarla.
También es fácil acceder a herramientas de hacking y DoS y casi nadie tiene instaladas herramientas de este tipo porque no tiene sentido tener algo que solo sirve para cometer un delito.
Los legisladores tienen que ponerse las pilas y no solo perseguir a aquellos que hacen un montaje de ese tipo, sino también a quienes facilitan dichas herramientas para cometerlo sin poner ningún tipo de control a su uso.
#28 Pero es que hasta las herramientas de hacking pueden tener usos no destructivos (hacking ético). Un software de IA generativo será tan moralmente reprobable como los modelos con los que se entrene y el uso que se le de, digo yo.
#28 Como he dicho, lo que es hacer un servicio para facilitarlo claro que va a caer rápido. El problema es que de por sí ya es bastante sencillo con el modelo base, y va a serlo cada vez más. ¿Alguien va a penar a Adobe, GIMP y demás porque sus herramientas se puedan usar cada vez con más facilidad para hacer montajes de lo que quieras? Aquí estás en la misma encrucijada. No puedes ir de golpe a por toda la tecnología generativa por IA. Y si no haces eso, poco hay que se pueda hacer para prevenir que se de el salto a los usos maliciosos en estos momentos.
Incluso aunque sea una herramienta que este capada en su entrenamiento, no es tan complicado ni caro en recursos reentrenar para que produzca lo que quieras una vez tienes un modelo decente, y con el tiempo está siendo cada vez más sencillo. Para el programa, todo son pixeles que tiene que ordenar de una forma u otra. No le es más complicado hacer una cosa que otra. Limitarlo para uso SFW es bastante complicado incluso aunque no se libere el modelo.
Y sobre el hacking y el ejemplo de las ballestas, el problema que tienes aquí es que es algo que puede hacer cualquiera sin que nadie se entere. Salen estos que lo pasan entre amigos, pero el internet ya está inundado de esta mierda desde hace meses. Al final es algo que si no se entera la víctima o familiares, puede estar circulando durante años. Añade que como dices, esas herramientas tienen un fin específico, mientras que esta tecnología tiene muchas más aplicaciones y su uso está ya mucho más extendido, por lo que ponerle freno y donde cortar es complicado.
