Bienvenido a AI This Week, el resumen semanal de Gizmodo donde profundizamos en lo que ha estado sucediendo en la inteligencia artificial.
Bueno, mierda. En lo que respecta a la industria tecnológica, es difícil decir si alguna vez ha habido una serie de eventos más impactantes. que los que tuvieron lugar en los últimos días. La intriga palaciega y el drama en la sala de juntas de El derrocamiento de Sam Altman por el tablero de OpenAI (y su reintegración victoriosa hoy ) sin duda pasará a la historia como uno de los episodios más explosivos que jamás haya ocurrido en Silicon Valley. Dicho esto, el Las consecuencias a largo plazo de este apasionante incidente seguramente serán mucho menos agradables que el espectáculo inicial del mismo.
El “golpe”, como muchos lo han llamado, se ha atribuido en gran medida a una brecha ideológica entre Sam y la junta directiva de OpenAI. el ritmo de desarrollo tecnológico en la empresa. Así vamos esta narrativa, el directorio, que se supone tiene la última voz sobre el dirección de la organización, fue preocupado por el ritmo al que Altman estaba presionando para comercializar la tecnologíay decidió expulsarlo con extremo prejuicio. Altman, quien posteriormente fue respaldado por el poderoso socio y financiador de OpenAI, Microsoft, también como a la mayoría del personal de la startup, posteriormente dirigió un contragolpe, expulsó a los traidores y se reinstaló como líder de la empresa.
Gran parte del drama del episodio parece girar en torno a esta discusión entre Altman y la junta sobre la “seguridad de la IA”. Este capítulo tenso en la historia de la empresa parece un estallido de las dos personalidades opuestas de OpenAI: una basada en la investigación y el desarrollo tecnológico responsable, y el otro se basa en ganar un montón de dinero. Un lado decididamente dominó al otro (pista: era el lado del dinero).
Otros escritores ya han ofrecido averías sobre cómo la estructura organizativa única de OpenAI parece haberla puesto en un rumbo de colisión consigo misma. organigrama flotando por la web pero, en caso de no aquí un resumen rápido: a diferencia de prácticamente todos otros negocios de tecnología que existen, OpenAI es en realidad una organización sin fines de lucro, gobernada totalmente por su directorio, que opera y controla una empresa con fines de lucro. Se supone este diseño priorizar la misión de la organización de Perseguir el bien público sobre el dinero. OpenAI propia autodescripción promueve esta noción idealista: su objetivo principal es hacer del mundo un lugar mejor, no ganar dinero:
Diseñamos la estructura de OpenAI, una asociación entre nuestra organización sin fines de lucro original y una nueva rama con fines de lucro limitados, como un chasis para la misión de OpenAI: construir inteligencia general (AGI) que sea segura y beneficie a toda la humanidad.
De hecho, los estatutos de la junta deben su lealtad a la “humanidad”, no a sus accionistas. Entonces, a pesar del hecho de que Microsoft ha invertido una megatonelada de dinero y recursos en OpenAI, se supone que la junta directiva de la startup todavía (hipotéticamente) tiene la última palabra sobre lo que sucede con sus productos y tecnología. empresa parte de la organización es se informa que vale decenas de miles de millones de dólares. Como muchos ya han señalado, la misión ética de la organización parece haber entrado directamente en conflicto con los intereses económicos de quienes había invertido en la organización. Como de costumbre, el dinero ganó.
Dicho todo esto, se podría argumentar que no deberíamos respaldar completamente esta interpretación de los eventos del fin de semana todavía, ya que Las razones reales del despido de Altman aún no se han hecho públicas. En su mayor parte, los miembros de la compañía tampoco no estas hablando sobre las razones que Sam fue expulsada o negado rotundamente que su derrocamiento tuvo algo que ver con la seguridad de la IA. Mientras tanto, han circulado teorías alternativas, y algunas sugieren que las verdaderas razones porque la salida agresiva de Altman fue decididamente más colorida, como las acusaciones que buscó financiación adicional a través de regímenes autocráticos de Medio Oriente.
Pero empantanarse demasiado en especular sobre los catalizadores específicos del drama de OpenAI es ignorar lo que todo el episodio ha revelado: En lo que respecta al mundo real, la “seguridad de la IA” en Silicon Valley es prácticamente nula y sin efecto. De hecho, ahora lo sabemos. que, a pesar de su estructura organizativa supuestamente a prueba de balas y su misión declarada de desarrollo responsable de la IA, a OpenAI nunca se le iba a permitir Anteponer la ética al dinero.
Para ser claros, la seguridad de la IA es un campo realmente importante y, si las corporaciones estadounidenses realmente lo practicaran, eso sería una cosa. Dicho esto, la versión que existía en OpenAI, posiblemente una de las empresas que hecho lo más Seguir un modelo orientado a la “seguridad” no parece haber sido muy compatible con las maquinaciones de realpolitik de la industria tecnológica. . En términos aún más francos, las personas que se suponía debían defendernos de la IA desbocada (es decir, los miembros de la junta directiva), los Los que fueron ordenados con una administración responsable de esta poderosa tecnología no parecen haber sabido lo que estaban haciendo. No lo saben. Parece haber entendido que Sam tenía todas las conexiones en la industria, los amigos en las altas esferas, era muy querido y que moverse en contra él en un mundo donde ese tipo de capital social es todo equivaldría a un suicidio profesional. Si vienes al rey, será mejor que no falta.
En resumen: si el objetivo de la seguridad de la IA corporativa es proteger a la humanidad de la IA descontrolada, entonces, como estrategia eficaz para lograrlo , en la práctica simplemente ha reprobado su primera gran prueba. Eso se debe a que es bastante difícil poner tu fe en un grupo de personas que Ni siquiera fueron capaces de predecir el resultado muy predecible que ocurriría cuando despidieran a su jefe. ¿Cómo, exactamente, puede ¿Se le puede confiar a este grupo la supervisión de una tecnología supuestamente “súper inteligente” y revolucionaria? Si no puedes ser más astuto que un grupo de inversionistas indignados, entonces probablemente no puedas ser más astuto que la entidad tipo Skynet que afirmas estar construyendo. Dicho esto, yo diría que tampoco podemos confiar en La alta gerencia cobarde y obsesionada con el dinero que ahora ha reafirmado su dominio. En mi opinión, están obviamente no vamos a hacer lo correcto. Así que, efectivamente, la humanidad está atrapada entre la roca y la dura.
A medida que se resuelve el conflicto de OpenAI, parece que la empresa está bien posicionada para volver a la normalidad. desechar Las dos únicas mujeres en su directorio, agregó la compañía. matón fiscal Larry Summers.Altman está de vuelta en la empresa (al igual que el ex presidente de la empresa, Greg Brockman, quien renunció en solidaridad con Altman), y Microsoft alto ejecutivo, Satya Nadella, ha dicho que está “alentado por los cambios en el tablero de OpenAI » y dijo que es un «primer paso esencial en un camino hacia un más estable, bueno -gobernanza informada y eficaz”.
Con el fracaso de la junta, parece claro que los bienhechores de OpenAI pueden no sólo haber hecho retroceder su propia misión de “seguridad”, sino que podrían También han iniciado una reacción violenta contra el movimiento ético de la IA en general. Un ejemplo: el drama de este fin de semana parece haberse radicalizado aún más una ideología antiseguridad ya bastante radical que había estado circulando en el negocio. “aceleracionistas efectivos” (abreviado “e/acc”) creemos que cosas como regulaciones gubernamentales adicionales, la “ética tecnológica y la seguridad de la IA» son obstáculos engorrosos para verdadero desarrollo tecnológico y ganancias exponenciales. Durante el fin de semana, cuando surgió la narrativa sobre la “seguridad de la IA”, algunos de los más fervientes partidarios de este sistema de creencias llevó a X a denunciar lo que percibieron como un ataque sobre la verdadera víctima del episodio (capitalismo, por supuesto).
Hasta cierto punto, el objetivo de la adopción de la “ética” y la “seguridad” por parte de la industria tecnológica tiene que ver con la tranquilidad. Las empresas se dan cuenta de que el Las tecnologías que venden pueden ser desconcertantes y disruptivas; quieren asegurarle al público que están haciendo todo lo posible para proteger a los consumidores y sociedad. Sin embargo, al final del día, ahora sabemos que no hay razón para creer que esos esfuerzos alguna vez lograrán un ¿Hay diferencia si la “ética” de la empresa termina entrando en conflicto con su dinero? ¿Y cuándo esas dos cosas alguna vez no han entrado en conflicto?
Pregunta del día: ¿Cuál fue el mejor meme que surgió del drama de OpenAI?
de esta semana embrollo sin precedentes Inspiró tantos memes y tomas sarcásticas que la capacidad de elegir un favorito parece casi imposible. De hecho, el escándalo generó varios memes diferentes. géneros de memes por completo. Inmediatamente después del derrocamiento de Altman hubo muchos Memes De Conspiración De Rust Cohl circulando, mientras el mundo tecnológico se esforzaba por entender exactamente qué estaba presenciando. También hubo bromas sobre ¿quién debería reemplazar? Altman y lo que pudo haber causado la lucha por el poder en primer lugar. Luego, cuando quedó claro que Microsoft estaría detrás del CEO derrocado, la narrativa— y los memes cambiaron. El-triunfal-Sam-regresa-a-OpenAI-después-de-expulsar-al-género-del-tablero se hizo popular, al igual que toneladas de Memes relacionados con Satya Nadelle. Hubo, por supuesto, Sucesión memes. Y, finalmente, surgió un inevitable género de meme en el que X usuarios abiertamente se burló del tablero de OpenAI por haber desperdiciado tan totalmente el golpe contra Altman. Yo personalmente encontré esto vídeo deepfake que intercambia la cara de Altman con la de Jordan Belfort en El lobo de Wall Street ser bueno. Dicho eso, habla en los comentarios con tu favorito.
Más titulares de esta semana
- La otra empresa de IA que tuvo una semana realmente mala. OpenAI no es la única empresa tecnológica que pasó por problemas esta semana. Cruise, la empresa de robots taxis propiedad de General Motors, es también está pasando por una situación bastante difícil. El fundador y director ejecutivo de la empresa, Kyle Vogt, renunciar el lunes, después de que el estado de California acusara a la compañía de no revelar detalles clave relacionados con un incidente violento con un peatón. Vogt fundó la empresa en 2013 y la llevó a un lugar destacado en la industria de viajes automatizados. Sin embargo, la empresa falló lanzamiento de vehículos en San Francisco en agosto provocó una consternación generalizada y un montón de quejas de residentes de la ciudad y funcionarios de seguridad pública . Los escándalos de Cruise llevaron a la empresa a todos sus vehículos fuera de las carreteras en California en octubre y, luego, eventualmente, detener las operaciones en todo el país.
- MC Hammer es aparentemente un gran fanático de OpenAI. Para añadir a la rareza de esta semana, también descubrimos que “U Can’t Touch This» el rapero MC Hammer es un confirmó OpenAIstan. El miércoles, cuando el caos de la lucha por el poder de esta semana llegó a su fin, el rapero tuiteó: “Saludo y felicitaciones al 710 plus@OpenAI miembros del equipo que dieron una demostración incomparable de lealtad, amor y compromiso con @sama y @gdb En estos tiempos peligrosos era algo hermoso ser testigo”.
- Los creativos están perdiendo la guerra de los derechos de autor de la IA.La demanda de Sarah Silverman contra OpenAI y Meta no va muy bien. Esta semana se reveló que la demanda del comediante contra el Los gigantes tecnológicos (a quienes ella acusa de violaciones de derechos de autor) han fracasado. Silverman no está sola. Una demanda presentada por varios artistas visuales contra Midjourney y Estabilidad la IA era casi pero desechado por un juez el mes pasado. Dicho esto, aunque estas demandas parecen estar fallando, podría ser simplemente una cuestión de encontrar el argumento legal adecuado para que tengan éxito. Aunque los reclamos actuales pueden no ser lo suficientemente sólidos, los casos podría revisarse y volverse a presentar.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.