Bicicletas mentales

• 15 - Pablo Rubinstein (Gradient Defense) - Inteligencia artificial y seguridad informática

  Notas: 1:00 Entusiasmo sobre la inteligencia artificial 4:30 y los miedos correspondientes 7:30 la carrera profesional de Pablo 11:50 las primeras épocas de Core (2000) 15:00 la evolución de Core 18:20 últimas épocas en Core (2017)  24:00 Disarmista, la consultora de Futo 26:00 observación de malware en entornos aislados   28:30 malware y ransomware 33:00 El libro de Nicole Perlroth https://www.amazon.com/This-They-Tell-World-Ends/dp/1635576059 34:30 cómo entra Pablo en la inteligencia artificial 39:20 nuestra empresa, Gradient Defense https://gradientdefense.com/ 43:40 los experimentos que viene haciendo Pablo: fine-tuning 51:30 los videos de Andrej Karpathy https://www.youtube.com/c/AndrejKarpathy 54:00 el blog post - Manchurian Candidate https://gradientdefense.com/blog/can-you-simply-brainwash-an-llm 58:Editando un modelo de lenguaje con un cambio puntual 1:02: el lejano oeste de los modelos de lenguaje  1:04 cómo confiar en un modelo que generó otro 1:06 todos los modelos son modificados por cuestiones políticas 1:08 el abaratamiento de los costos de entrenamiento en el futuro 1:10 ¿hay casos de ejecución remota en servidor a partir de prompts? 1:15 la historia de Langchain y cómo habilita a los modelos para interactuar con el mundo 1:20 la metáfora del LLM como el pajarito de los Simpsons, y el aprendiz de brujo de Fantasía 1:22 muchos clientes piden simplemente educación 1:24 usando un LLM para encontrar exploits  1:25 la tesis de Pablo: verificación formal de programas 1:29 AutoGPT buscando exploits 1:31 Phishing automatizado con LLMs

  --------  

  1:41:36
• 14. Fernando Balbachan - Modelos de lenguaje, ChatGPT, inteligencia artificial, lingüística

  Notas: Vengan a nuestro Discord. 1:00 - Historia de los modelos del lenguaje 3:30 Qué es un modelo transformer 4:30 Embeddings 6:00 Los de OpenAI (ada 002) 11:00 RHLF (aprendizaje reforzado por feedback humano) 12:00 el video de Andrej Karpathy (GPT desde cero, con código) 16:00 ¿Los modelos son creativos? (tangente, el video sobre cómo Nirvana combina elementos) 22:00 Detrás de escena son todos números. 25:00 El razonamiento implícito de los modelos. Los portales semánticos (por ejemplo, los sueños). 28:30 ¿Por qué los modelos del lenguaje no pueden hacer cuentas? 29:30 Aumentando los modelos con herramientas externas (ejemplo, LangChain) 33:00 ¿Los programadores se van a quedar sin trabajo? 36:00 Las abstracciones con pérdida (leaky abstractions) de Joel Spolsky 40:00 La historia de la programación desde el 80 hasta hoy 47:00 Daniel Kahneman, pensando rápido y despacio 49:30 El recall de Tesla por un bug. 53:00 La evolución del pensamiento humano comparado y su influencia en la IA. 55:00 La lucha permanente contra la escasez y el sufrimiento. 59:00 El experimento fallido de Microsoft. 1:01 Con un avión podemos ir más rápido pero también nos podemos estrellar si no tenemos cuidado (ventajas y desventajas de la tecnología) 1:03 La historia de OpenAI con Elon Musk 1:05 El "paperclip maximizer" y los escenarios de destrucción del mundo a manos de la IA. 1:10 Teller y el miedo de que la bomba atómica incendiara la atmósfera 1:11 El precipicio de Toby Ord 1:16 Los riesgos de la investigación 1:17 Tenemos que hacer un episodio más dedicado a la lingüística 1:18 Fernando en LinkedIn Donde trabaja Fernando ahora, Lexalytics Cátedra de la UBA Fernando en Twitter

  --------  

  1:23:46
• 13. Andrés Rieznik - neurociencia, magia, comportamiento humano y divulgación científica

  Notas: Nuestro discord 0:00 - Principios, inspiración en Carl Sagan, la matemagia 3:00 - Conexión con Mariano Sigman y los inicios en la neurociencia 9:00 - El libre albedrío - el compatibilismo y el incompatibilismo (con las leyes de la física) 16:00 las posiciones de Sam Harris y Daniel Dennett 17:00 Daniel Wegner y la ilusión del control 20:00 qué significa ser una buena persona, más allá de los dogmas religiosos 29:00 el juego de hacer oscilar el péndulo, la copa, y la explicación científica 33:00 Nudge de Richard Thaler, el opt-in y el opt-out, la donación de órganos por default 37:00 el "Sludge" 40:00 Michael Gazzaniga y la neurociencia cognitiva 49:00 Los modelos del lenguaje y los argumentos basados en valores 51:00 El libro Tabú de Andrés 52:00 Derek Parfit 55:00 consensos sobre el aborto, la esclavitud, cómo llegamos a decidir qué quiere una sociedad como conjunto 1:03 la lucha contra la escasez de recursos 1:07 la transición del modelo malthusiano a la siguiente fase 1:08 el "largoplacismo" (longtermism) 1:10 Toby Ord y cuánto nos importan las personas futuras comparadas con las actuales 1:12 el precipicio, todas las formas en las cuales podría terminar la humanidad 1:15 cómo nos fuimos interesando en el tema del comportamiento humano 1:16 Dan Ariely, Robert Sapolsky 1:17 Charla TED de Andrés sobre la ciencia del levante 1:19 Carol Dweck 1:21 Peopleware 1:24 la construcción de software, los procesos y las organizaciones 1:27 los sesgos en los modelos de lenguaje 1:30 seres inteligentes distintos a nosotros, ¿cómo serían? 1:32 ¿puede haber conciencia en el silicio? 1:33 Her, Westworld, Ex Machina 1:35 Innate - qué cosas traemos de fábrica, qué cosas son probabilísticas y pueden activarse o no 1:42 la pareidolia y cómo vemos patrones en todos lados 1:45 el futuro en el que tenemos la memoria total de lo que hicimos y dijimos 1:47 lo que queremos a largo plazo y corto plazo 1:50 lo que Andrés busca transmitir a través de la docencia 1:53 la lotería de la vida, reflexión de Richard Dawkins

  --------  

  1:56:24
• 12. Nico Waisman, CISO de Lyft - Pasar de la seguridad ofensiva al lado defensivo, y su relación con el jiu-jitsu brasileño

  Notas: 00:35 El jiu-jitsu brasilero y su relación con la tecnología 08:05 El lado ofensivo de la seguridad 09:50 HBO (Hacked By Owls) 11:25 Los exploits 12:30 la memoria dinámica 14:40 los ejercicios de Gerardo Richarte para aprender exploits 15:50 El mercado de los exploits 20:10 El libro This Is How They Tell Me the World Ends: The Cyberweapons Arms Race 22:40 Cambios en la dinámica comercial 25:30 Los "bug bounties" 31:30 el hack a Jeff Bezos via un exploit de Whatsapp 33:30 ¿Podemos saber desde dónde nos hackearon? La atribución 38:10 Stuxnet 43:00 ¿Podemos defendernos de un gobierno? 48:50 Los problemas de seguridad más simples de una empresa 50:00 El primer contacto profesional con la seguridad 53:20 CodeQL 54:50 la experiencia dentro de Github 56:00 variant analysis 58:00 GitHub y la superficie de ataque 1:00:00 El supply chain de un proyecto 1:02:00 Xkcd obligatorio 1:03:00 Curl 1:05:40 La diferencia entre el trabajo de seguridad defensivo y el defensivo (el trabajo ingrato del arquero en el fútbol) 1:08:30 Microsoft (Presentacion de Andrew Cushman sobre el nuevo foco en seguridad) 1:15:00 Las empresas maduras que fueron creciendo lentamente y las que lo hicieron de golpe 1:16:50 El ransomware 1:19:30 El riesgo de las DAOs que crecen de repente 1:12:20 ¿Cómo organizar la seguridad defensiva dentro de Twitter? 1:25:40 Los "guardrails" 1:28:00 El testimonio de Mudge como "whistleblower" en Twitter 1:35:20 Evaluando la situación de un equipo al entrar a una empresa como CISO 1:38:45 “La seguridad está descentralizada” 1:34:00 Se fue la CISO de Twitter, Lea Kissner 1:43:30 ¿Por qué es interesante trabajar en Lyft? 1:44:30 Envoy y blog de Lyft. 1:46:20 El “blast radius” de un ataque 1:47:00 El post de vulnerability management 1:50:00 El “god mode” de Uber 1:51:20 El hack a Ashley Madison 1:52:30 El leak de Polar que reveló posiciones de personal militar 1:53:40 ¿Existe el CISO de un estado nación? 1:56:00 Las office hours de Nico

  --------  

  1:58:45
• 11. Ariel Futoransky (Futo) - Seguridad informática, juegos de ingenio, criptomonedas, programación y matemática

  [Vengan al discord] Notas: Inicio - la industria de la seguridad 12:00 los desafíos del mundo blockchain 13:15 la historia de Mt Gox (Magic The Gathering Online Exchange) 18:20 La escena de Superman 3 30:35 las transacciones sandwich 36: ¿Se puede crear una puerta indestructible? 40:00: La vulnerabilidad de ssh que descubrieron en Core 43:35 La escena de Matrix Reloaded en la que Trinity usa el exploit de ssh 44:50 los principios con Ivan y Emiliano 49:10 el entorno de programación y los lenguajes que le gustan a Futo 53:30 El autómata de la serpiente (video en el que lo explican bien con Rodolfo Kurchan) 55:45 El videojuego de Tron 58:00 El juego del Busy Beaver 1:01 La matemática del siglo 20 y la indecibilidad 1:07:55 Advent of Code 2022 1:10:30 Top Coder, Code Forces, LeetCode, Project Euler 1:14:45 Core Wars Competencia de programación de piedra papel y tijera Y del dilema del prisionero 1:16:40 El programa “invencible” de Core Wars que meta-triunfaba 1:18:30 dos personas usando una computadora a la vez - pensamiento lateral 1:22:30 los contratos inteligentes y las vulnerabilidades ingeniosas 1:29:30 viajando en el tiempo a romper sistemas 1:35:10 ¿Quién gana al ajedrez, un programa antiguo en hardware moderno o viceversa? 1:38:20 Los profesores que tienen que detectar si los alumnos hacen trampa. 1:40:44 El deep fake en el hack de Binance. 1:43:00 La controversia de la trampa en el ajedrez con transmisores remotos 1:59:22 La charla de Nick Bostrom sobre la destrucción del mundo y el Whole Brain Emulation Roadmap 2:03:00 La biografía de John Von Neumann, muy recomendable. 2:04:15 La encripción homomórfica. 2:08:40 Las pruebas de conocimiento cero (zero-knowledge proofs). 2:09:40 ¿Qué busca Futo en un programador para Bittrap? 2:11:00 Imperial, uno de los juegos de mesa que le gusta a Futo.

  --------  

  2:14:22

Más podcasts de Tecnología

Podcasts a la moda de Tecnología

Acerca de Bicicletas mentales