Piden pausar 6 meses desarrollo de IAs (nivel GPT-4 o superior

#120 Que la escriban a mano xD

#118 Estas mezclando varias cosas. Tu piensa en el resultado. En este caso le estas pidiendo a un modelo de lenguaje por una opinion. Y eso es muy complejo.

La respuesta en si de ChatGPT ya es un resultado del modelo, la interpretacion de textos de input que le han dado ya es otro resultado, el leer tu input e interpretarlo correctamente es otro resultado y asi habra varias capas. No se como funciona ChatGPT porque no me lo he mirado pero generar una "opinion", seguro que no esta entrenado para generar opiniones.

Porque para empezar es uno de los problemas mas dificiles de resolver, es mucho mas facil REFUTAR una opinion. Tu podrias tener un ChatGPT entrenado para REFUTAR opiniones facilmente a partir del conocimiento que el aprende. Y entonces te explicaria porque algo esta bien o mal citandote fuentes. Y esto indirectamente, en base a aprender a interactuar con usuarios como un chat de ayuda, ya lo hace.

Y en el roadmap esta el tener plugins especializados de ChatGPT como el wolframalpha. Con ello ChatGPT accedera a todo el conocimiento de la herramienta y de esta manera si tu le pasas una formula matematica, te refutara o te correjira porque esta mal. Y tambien te ayudara a resolver lo que quieras. Y el generar una "nueva teoria" podria ser capaz, aunque es mas dificil. En esto aun se experimenta.

Lo que si te puede hacer el ChatGPT es que si le enseñas matematicas y le pides que resuelva un sistema de ecuaciones, lo haga de la manera distinta a la que lo haria un humano, porque ha encontrado maneras mas eficientes. Y eso ya lo hacen y es "inventar". Igual que se "inventa" imagenes a partir de cosas que ha aprendido.

El tema de refutacion, ya hace años se hacia con logica sobre hilos de twitter para demostrar automaticamente quien tenia razon en un arbol de discusion. Asi que estoy seguro que hay modelos y gente trabajando en ello.

Madre mía.

En serio, que está muy bien leer sobre singularidad tecnológica y es tope interesante, hasta Stephen Hawking se metió en el ajo, pero ya. Las teorías hablan sobre tecnología que aún estamos lejos de alcanzar y, sobretodo, comprender (por eso se teoriza hasta límites loquisimos donde todo vale), casi como un juego de fuertepensadores para pasar el rato en su club de campo entre descansos de su actual desarrollo de física cuántica.
OpenAI se fundó un poco sobre esas bases de cara a la galería bonita y el refuerzo positivo de que "hay que invertir en esto y vamos a hacerlo accesible a todo el mundo" -porque nos va a dar mucha pasta a largo plazo, pero esto no lo decimos porque queda feo-. En cuanto vieron que desarrollar esta tecnología sale muy MUY caro (wikipead un poco) y era hora de atraer donaciones imagino que vieron necesario seguir en su línea narrativa del "AI Safety", especialmente para aquellos temerosos de que los reyes de la tecnología punta del momento no sean los norteamericanos because reasons.
Y obviamente detrás de todo ese telón de I+D+I de fake caridad tecnológica está el "ojo que Microsoft es la única empresa que está sacando más tajada de todo esto, y nosotros no podemos por A o por B" (que, personalmente, a mí es lo que más me preocupa. Un proyecto que comenzó con la bandera de "desarrollo tecnológico para todos" teniendo como su mayor partner a la empresa del código cerrado y monopolio por autonomasia... Hmmmm)

En cualquier caso, si hay algún temor real que pudiéramos tener a la tecnología de IA actual es a tragarnos fakes, al impulso general que hay hoy en día de publicar y defender a muerte LO QUE SEA (para muestra, un botón)y a la absoluta incapacidad de los medios de comunicación de contrastar noticias y explicarlas de verdad frente al impulso de ser los primeros en hacer echo del primer titular sensacionalista.
Me imagino, por ejemplo, a inversores teniendo pesadillas porque un día se difunda un deepfake bastante creíble de Elon Musk diciendo que compra o vende otra empresa o cryptomoneda volviendo a los cryptobros e inversores locos y transformando artificialmente los valores en bolsa aunque sea por unas horas.
Y creo que si, de verdad, pretenden hacer una moratoria, debería ser para enseñar a los medios de comunicación, y posiblemente legislar, para que la difusión de noticias fake y titulares sensacionalistas estén controlados.

Pero ya.

Ya me veo las futuras generaciones quejarse de que nosotros pudimos hacer mucho dinero porque aun no habían IA que hiciesen mejor el trabajo que nosotros. Ellos seran pobres siempre porque dependerán de la paguita, que a duras penas les dará para llegar a final de mes.

Nos vamos a la puta B señores. Suerte que en verano sale cs2 y podré olvidar las penas.

Cuántos follamoñecas van a salir dentro de unos años

Eso es lo que nos va a matar como especie con las IAs

#140Nerviosillo:

Una máquina con consciencia no tendrá impulsos de dopamina, por lo que nunca hará nada que le dé placer, si no eficiencia.

Bueno, es que precisamente la eficiencia es peor que la dopamina, ya que es una droga de la que la máquina no puede escapar, lo tiene gravado en su código y sí o sí es un jonki obligado a ella.

De todas formas creo que estamos confundiendo cosas, que sobre un papel teórico una IA pueda llegar a ser igual que un humano. Es un hecho que muy difícilmente admite discusión.

La revolución que estamos sufriendo ahora no está ni cerca de alcanzar esa logro. La revolución de IAs que estamos sufriendo actualmente es de utilización de conocimientos, no de generación del mismo. La IAs solo repiten lo que ya existe en nuestra basta base de datos de conocimiento pero no son capaces aún de generar nuevo conocimiento, pese a que puedan pintarte un cuadro nuevo, en realidad no es un nuevo conocimiento. No pueden soñar, hipotetizar, etc. Están totalmente fuera del proceso de generación de hipótesis.

Eso deberemos dejarlo para otra revolución de las IAs que ni sabemos cuándo llegará. La revolución actual es la de la optimización y automatización de procesos. Esta revolución no genera ningún planteamiento moral sobre la humanidad de las máquinas.

#77Madein:

FIN.

Claro, los expertos están preocupados y el mismo CEO de Open AI dice "es una posibilidad que una AGI decida matar a todos los humanos", pero tú sueltas tu patochada y acabas con un "FIN", como diciendo "y no hay nada más que discutir". Pues nada, chico, avisa al CEO de la IA de que no tiene ni puta idea.

¡CHIM-PON!