Colegio de matemáticas Bourbaki

"Practice is blind without theory".
- Slavoj Žižek

La teoría estadística y la práctica de los científicos de datos no coinciden en la mayor parte de los modelos más modernos de machine learning (por ejemplo, en las redes neuronales profundas).

En el artículo que les compartimos se busca reconciliar estos dos puntos de vista, concentrándose sobre todo el el trade-off entre el sesgo y la varianza, el cual tradicionalmente se modela en estadística como una curva U. Sin embargo, este trabajo propone más bien un fenómeno conocido como doble descenso.

También es importante mencionar que el trade-off entre la varianza y el sesgo es una de las observaciones más importantes que ha moldeado la heurística de muchos de los practicantes y es indispensable que los científicos de datos conozcan las nuevas versiones de estos teoremas.

Thomas Callister Hales es un matemático estadounidense reconocido mundialmente por sus contribuciones fundamentales a la geometría discreta y la demostración asistida por computadora. Nacido en 1958, Hales es profesor en la Universidad de Pittsburgh y miembro de la American Mathematical Society, destacándose por su enfoque riguroso en problemas matemáticos de gran complejidad que habían permanecido sin resolver durante siglos.

Su contribución más célebre es la demostración de la Conjetura de Kepler en 1998, un problema planteado en 1611 que afirmaba que el empaquetamiento cúbico centrado en las caras es la forma más eficiente de apilar esferas en el espacio tridimensional, alcanzando una densidad de aproximadamente 74.05%. La demostración de Hales requirió el uso extensivo de computación para verificar miles de configuraciones posibles, inaugurando así una nueva era en la verificación matemática. Este trabajo fue finalmente publicado en 2005 tras un exhaustivo proceso de revisión.

Posteriormente, Hales lideró el proyecto Flyspeck, completado en 2014, que proporcionó una verificación formal completamente rigurosa de su demostración original utilizando los asistentes de prueba Isabelle y HOL Light. Además, ha realizado importantes contribuciones a la solución del problema del panal de abeja y ha trabajado en el Programa de Langlands. Por su trabajo pionero en demostraciones formales y geometría discreta, ha recibido numerosos reconocimientos de la comunidad matemática internacional.

Hace algunos años cuando comenzaba el Colegio de Matemáticas Bourbaki, regalamos a nuestros clientes al final del año un decantador inspirado en la botella de Klein. Les compartimos una fotografía que tomamos en su momento de uno de ellos.

La botella de Klein es una superficie topológica cerrada que se define al identificar los lados del cuadrado de la siguiente forma:

Supongamos que el cuadrado tiene estas coordenadas en el plano cartesiano [0,1]×[0,1]. Identificamos todos los siguientes puntos (0,y)∼(1,y) y además (x,0)∼(1−x,1). El resultado es una superficie no orientable, lo que significa que no admite una noción global coherente de "lado interior" y "lado exterior".

Es imposible construirla en tres dimensiones porque cualquier modelo físico de la botella de Klein en el espacio euclidiano necesariamente presenta una autointersección: el cuello debe atravesar la pared de la superficie para poder cerrarse. Esa intersección solo existe en tres dimensiones. En cambio, en cuatro dimensiones sí puede realizarse sin autointersecciones.

Sir David Roxbee Cox fue un estadístico y educador británico. Contribuyó ampliamente al campo de la estadística, y entre sus logros están la introducción de la regresión logística, el modelo de riesgos proporcionales y el proceso puntual de Cox.

Fue profesor de estadística en Birkbeck, en el Imperial College y en la Universidad de Oxford, y se desempeñó como director del Nuffield College en Oxford.

Fue el primer ganador del Premio Internacional de Estadística y también recibió las medallas Guy, George Box y Copley, así como un título de caballero.

En 2017 Bill Gates dijo que el modelo construido por OpenAI para vencer en Dota 2 era un "big deal" en una publicación en Twitter.

Estos modelos son particularmente importantes en la historia de la IA debido al uso de la memoria para poder mejorar estas estrategias. Uno de los objetos clave detrás de este logro es el de Red Neuronal LSTM, gracias a las cuales las redes son capaces de recibir inputs mucho más largos.

Este avance es indispensable, por ejemplo, para los grandes modelos del lenguaje.

Si desean conocer más detalles, en el Colegio de Matemáticas Bourbaki los invitamos a participar en alguno de nuestros cursos donde tratamos estos temas en profundidad.

En el Polo Sur está el observatorio IceCube Neutrino, encargado de reconstruir el origen de los neutrinos mediante telescopios.

Uno de los grandes problemas con los datos recolectados por estos telescopios es que la información es muy dispersa.

Para esto, en 2017, científicos de Microsoft propusieron una familia de redes neuronales las cuales fueron utilizadas por científicos de Harvard, IceCube y Wisconsin con excelentes resultados.

Herman Chernoff es un matemático aplicado, estadístico y físico estadounidense. Ha sido profesor en la Universidad de Illinois Urbana-Champaign, Stanford y en el MIT. Actualmente es profesor emérito en la Universidad de Harvard.

Chernoff ha trabajado principalemente en las áreas de análisis secuencial y diseño óptimo. Rustagi y Siegmund dicen que "es conocido por ser un profesor inspirador y ha influido enormemente en sus estudiantes de doctorado y asociados de investigación posdoctorales, quienes a su vez han contribuido enormemente al campo de la estadística".

En el Colegio de Matemáticas Bourbaki estamos en una nueva edición de Matemáticas para la Ciencia de Datos, un curso de 12 semanas diseñado para quienes buscan dominar el lenguaje matemático detrás de los algoritmos y mejorar su criterio al modelar.

Temas que profundizamos durante el curso:

- Probabilidad y estadística aplicada a ML: Monte Carlo, Teorema Límite Central, tests estadísticos y cadenas de Markov.

- Álgebra lineal: medidas de similitud, PCA y sistemas de recomendación.

- Cálculo y optimización para entender el entrenamiento: método del gradiente, regla de la cadena y backpropagation, además de Bellman y el teorema del gradiente de la política.

Quienes trabajan con modelos conocen la escena: un experimento que no cuadra, una métrica que se mueve sin explicación, un modelo que parece bueno hasta que cambia el contexto.

Nuestro curso existe para que esos momentos dejen de ser ensayo y error y se conviertan en diagnóstico: entender qué está pasando, qué suposiciones se están haciendo y cómo ajustar el planteamiento con precisión.

Este curso es el fundamento matemático obligatorio dentro del Track de Machine Learning Avanzado: el paso natural para avanzar con solidez hacia la parte de especialización.

Además, al adquirir el Track, se pueden escoger 2 cursos especializados para continuar la ruta de formación, por ejemplo:

- Interpretabilidad & Causalidad
- Inferencia Bayesiana & Tuning
- Graph Theory & Deep Learning
- Procesamiento del Lenguaje Natural Avanzado

Para recibir más información, fechas y proceso de inscripción, contáctenos directamente.

En el Colegio de Matemáticas Bourbaki abordamos en nuestro curso sobre Interpretabilidad y Causalidad una propiedad fundamental de las regresiones lineales: El error de una regresión lineal no está correlacionado con las variables explicativas.

Este enunciado fue demostrado por Legendre en su famoso artículo de 1805 sobre la determinación de las órbitas de los cometas. Compartimos el apéndice que dio nacimiento a Machine Learning como lo conocemos.

En el curso ofrecimos una explicación intuitiva utilizando la reducción al absurdo. Si desean conocer más detalles sobre la siguiente edición pueden contactarnos.

A continuación presentamos el argumento que mostramos en clase:

Supongamos una regresión muy simple con una sola variable explicativa y sin ordenada al origen, la variable objetivo es aproximada por la variable explicativa multiplicada por algún coeficiente:

Y ≈ βX

El error es aquella parte de Y que no se logró explicar utilizando a X, se calcula como sigue:

E = Y − βX

Buscando una contradicción supongamos que el error estuviera correlacionado con X. Por definición existiría algún coeficiente C tal que

E ≈ C X

Entonces podemos deducir lo siguiente:

Y − βX ≈ CX

Así que

Y ≈ βX + CX = (β + C) X

Lo anterior es una contradicción pues significa que el coeficiente β no era lo suficientemente bueno como originalmente supusimos.

La demostración formal de la ortogonalidad entre el error y las variables explicativas utiliza la derivada del error cuadrático medio.

Vladimir Voevodsky fue un matemático ruso nacido en 1966 que revolucionó profundamente la geometría algebraica y los fundamentos de las matemáticas. Su trabajo estableció conexiones fundamentales entre la topología algebraica, la teoría de categorías y la lógica matemática, transformando nuestra comprensión de estructuras matemáticas abstractas.

Su contribución más célebre fue la demostración de la conjetura de Milnor sobre la K-teoría algebraica en 1996, utilizando técnicas innovadoras de geometría algebraica motivica. Voevodsky desarrolló la teoría de motivos de Voevodsky y la categoría de complejos motivicos, introduciendo herramientas como los espacios simplíciales motivicos que permitieron aplicar métodos homotópicos a problemas algebraicos. Este trabajo le valió la Medalla Fields en 2002.

En sus últimos años, Voevodsky se dedicó a revolucionar los fundamentos de las matemáticas mediante el desarrollo de la teoría de tipos homotópicos y los Fundamentos Univalentes de las Matemáticas. Propuso el axioma de univalencia, que establece una correspondencia profunda entre equivalencias de estructuras matemáticas e igualdades, abriendo nuevas perspectivas para la formalización y verificación computacional de demostraciones matemáticas.