Científicos esperan que la estupidez artificial salve a la humanidad de ser controlada por la inteligencia artificial

Comparta este Artículo en:

Algunos científicos sugieren limitar lo inteligente que puede llegar a ser la inteligencia artificial, hasta llegar a la inteligencia humana.

Científicos de la Universidad de la Sorbona en París y la Universidad de Louisville sugieren que impedir que la inteligencia artificial se vuelva demasiado inteligente podría ser la única forma de salvar a la humanidad.

E equipo publicó su perspectiva en arXiv de la Biblioteca de la Universidad de Cornell, un sistema en línea para que los científicos publiquen trabajos de investigación de acceso abierto.

“Decimos que una IA se convierte en artificialmente estúpida en una tarea cuando se introducen deliberadamente algunas limitaciones para que coincida con la capacidad de un ser humano para realizar la tarea”, escribieron Michaël Trazzi y Roman Yampolskiy en su artículo.

“Una Inteligencia General Artificial (AGI) puede hacerse más segura al limitar su poder de cómputo y memoria, o al introducir Estupidez Artificial en ciertas tareas”.

La inteligencia artificial que puede hacer cualquier cosa que un cerebro humano pueda hacer, llamada inteligencia general artificial, aún no se ha creado.

Sin embargo, los científicos esperan que su sugerencia de limitar las capacidades computacionales de IA, así como desarrollar que se comporte de manera similar a los humanos, sea la mejor forma de detener una toma de control de inteligencia artificial antes de que ocurra.

Los chatbots, las máquinas de chat en línea que pueden tener una conversación simple o pueden guiarlo a través del servicio al cliente en un sitio web, ya están configurados para tener estupidez artificial.

Según el documento, los programadores diseñan chatbots para que los errores parezcan más humanos.
These drugs are also not recommended to patients with elongated interval since cialis without prescriptions canada they can cause troubles of cardiac rhythm to them. Though there’s already a drug accessible inside the pharmacy online viagra browse around to find out more market that it’s difficult to choose sometimes. opacc.cv purchase cheap viagra Another addiction that’s rising within the geographical point includes web and technology addiction. The damage to these generic levitra opacc.cv autonomic neurons affects the involuntary body functions, including heart rate, blood pressure, perspiration, digestion and other processes.
“Para obtener una inteligencia artificial que no exceda por mucho las habilidades de los humanos, por ejemplo en aritmética, la potencia de computación permitida para las capacidades matemáticas debe reducirse artificialmente”, escribieron.

“Además, los humanos exhiben sesgos cognitivos, que resultan en errores sistemáticos en juicio y toma de decisiones. Para construir un AGI seguro, algunos de esos sesgos pueden necesitar ser replicados”.

Estos sesgos incluyen un sesgo de cortesía, por el cual la IA no intentará ofender a los demás, el conservadurismo, por el cual los valores de la IA no cambiarán y no se volverán malvados, y el efecto reflector, por el cual la IA sobreestimará cuánta gente piensa que la está mirando, por lo que se comportará de la misma manera, incluso bajo supervisión baja.

Los científicos también sugieren que la IA no debería ser capaz de mejorarse a sí misma para ser más eficiente.

“Cosas como las limitaciones de procesamiento podrían usarse para hacer que el pensamiento de la IA sea interpretable, no lo suficiente como para paralizarlo, sino para asegurarnos de que no se salga con la suya con cosas que no podemos seguir”, Stuart Armstrong, del futuro de la Universidad de Oxford. de Humanity Institute comentó a New Scientist en el artículo.

Sin embargo, Armstrong no cree que estos límites sean suficientes.

La IA puede simplemente hacer una copia de sí mismo que no tenga esas limitaciones, por lo que puede salirse con la suya en lo que quiera.

Fuente: Newsweek