Aprendizaje Automatizado

Este elemento es una ampliación de los cursos y guías de Lawi. Ofrece hechos, comentarios y análisis sobre este tema. [aioseo_breadcrumbs]

Trabajos de Aprendizaje Automatizado

Como dicen, una imagen, un ejemplo, vale más que mil palabras. Esto es lo que queremos que nuestra tecnología emule. Incapaz de definir ciertos objetos o conceptos con la precisión adecuada, queremos transmitirlos a la máquina a través de ejemplos.

Puntualización

Sin embargo, para que esto funcione, la computadora debe ser capaz de convertir los ejemplos en conocimiento. De ahí nuestro interés en los algoritmos y técnicas para el aprendizaje de la máquina, el tema de este texto.

Aquí se formula la tarea como un problema de búsqueda, introduciendo la búsqueda de escalada no solo como nuestro intento preliminar de abordar la tarea de aprendizaje de la máquina, sino también como una herramienta que será útil en algunos problemas auxiliares que se encontrarán en capítulos posteriores. Establecidos así los fundamentos, procederemos a cuestiones tales como los criterios de rendimiento, la metodología experimental y ciertos aspectos que hacen que el proceso de aprendizaje sea difícil e interesante.

Observaciones históricas La idea de lanzar la tarea de aprendizaje a máquina como búsqueda fue popular en los años 80 y 90. Mientras que varios “padres fundadores” llegaron a ver las cosas de esta manera independientemente unos de otros, a Mitchell se le atribuye a menudo el haber sido el primero en promover el enfoque basado en la búsqueda; igual de influyente, sin embargo, fue la familia de algoritmos AQ propuesta por Michalski. La disciplina recibió un gran impulso por la colección de artículos editados por Michalski y otros. Ellos enmarcaron la mentalidad de toda una generación.

Hay mucho más que buscar en los algoritmos. El lector interesado es referido a los libros de texto de la Inteligencia Artificial.

El lector puede encontrar interesante que la cuestión de la representación adecuada de conceptos o clases intrigó a los filósofos durante siglos. Así, John Stuart Mill exploró conceptos que están relacionados con lo que en otro lugar llama representación probabilística (véase); y William Whewel abogó por las representaciones prototípicas.

Conjuntos de entrenamiento y clasificadores

El número de clases puede ser mayor, por supuesto. Así, un clasificador que decide si una instantánea del paisaje fue tomada en primavera, verano, otoño o invierno distingue cuatro. El software que identifica los caracteres garabateados en un iPad necesita al menos 36 clases: 26 para las letras y 10 para los dígitos. Y los sistemas de categorización de documentos son capaces de identificar cientos, incluso miles de temas diferentes. Nuestra única motivación para elegir un dominio de dos clases es su simplicidad.

Vectores de Atributos

Para poder comunicar los ejemplos de entrenamiento a la máquina, tenemos que describirlos de manera apropiada. El mecanismo más común se basa en los llamados atributos.Entre las Líneas En el dominio de los “pasteles”, se pueden sugerir cinco: forma (círculo, triángulo y cuadrado), tamaño de la corteza (fina o gruesa), tono de la corteza (blanco, gris u oscuro), tamaño del relleno (fino o grueso) y tono del relleno (blanco, gris u oscuro).

Un clasificador a ser inducido

El conjunto de entrenamiento constituye la entrada desde la cual debemos inducir el clasificador. ¿Pero qué clasificador?

Supongamos que lo queremos en forma de una función booleana que es verdadera para los ejemplos positivos y falsa para los negativos. Comprobando la expresión [(forma=círculo) Y (sombreado de relleno=oscuro)] con el conjunto de entrenamiento, podemos ver que su valor es falso para todos los ejemplos negativos: mientras que es posible encontrar ejemplos negativos que son circulares, ninguno de ellos tiene un relleno oscuro.Entre las Líneas En cuanto a los ejemplos positivos, sin embargo, la expresión es verdadera para cuatro de ellos y falsa para los dos restantes. Esto significa que el clasificador comete dos errores, una transgresión que podríamos negarnos a tolerar, sospechando que hay una solución mejor.

Problemas con un enfoque de fuerza bruta

¿Cómo encuentra una máquina un clasificador de este tipo? La fuerza bruta (algo en lo que los ordenadores son muy buenos) no servirá aquí. Sólo hay que considerar cuántos ejemplos diferentes pueden distinguirse por el conjunto de atributos dados en el dominio de los “pasteles”. Para cada una de las tres formas diferentes, hay dos tamaños de corteza alternativos, siendo el número de combinaciones 3 × 2 = 6. Para cada una de ellas, el siguiente atributo, el de la corteza, puede adquirir tres valores diferentes, lo que lleva el número de combinaciones a 3 × 2 × 3 = 18. Extendiendo esta línea de razonamiento a todos los atributos, nos damos cuenta de que el tamaño del espacio de la instancia es 3 × 2 × 3 × 2 × 3 = 108 ejemplos diferentes.

Cada subconjunto de estos ejemplos -y hay 2108 subconjuntos- puede constituir la lista de ejemplos positivos de la noción de “buen pastel” de alguien. Y cada uno de estos subconjuntos puede caracterizarse por al menos una expresión booleana. Pasar cada uno de estos clasificadores a través del conjunto de entrenamiento está claramente fuera de la cuestión.
Enfoque manual y búsqueda No sabemos cómo inventar un algoritmo que induzca a la clasificación, pero podemos intentar inspirarnos en el intento de crear un clasificador “manualmente”, por el buen y anticuado método del lápiz y el papel. Al hacerlo, comenzamos con una versión inicial tentativa, digamos, forma=circular. Después de compararlo con el conjunto de entrenamiento, encontramos que es cierto para cuatro ejemplos positivos, pero también para dos negativos. Aparentemente, el clasificador necesita ser “reducido” (especializado) para excluir los dos ejemplos negativos. Una forma de llevar a cabo la especialización es añadir una conjunción. (Tal vez sea de interés más investigación sobre el concepto). Esta nueva expresión, aunque es falsa para todos los ejemplos negativos, sigue siendo imperfecta porque solo cubre cuatro (ex1, ex2, ex4 y ex6) de los seis ejemplos positivos.

Una Conclusión

Por lo tanto, en el próximo paso se debería intentar una cierta generalización, tal vez añadiendo una disyunción: {[(forma=circular) AND (sombreado de relleno=oscuro)] OR (tamaño de la corteza=grueso)}. Continuamos de esta manera hasta que encontremos un clasificador 100% exacto (si existe).

La lección de esta pequeña introspección es que el clasificador puede crearse mediante una secuencia de pasos de especialización y generalización que modifican gradualmente una versión dada del clasificador hasta que satisface ciertos requisitos predefinidos. Esto es alentador. Los lectores con experiencia en Inteligencia Artificial reconocerán este procedimiento como una búsqueda a través del espacio de las expresiones booleanas. Y se sabe que la Inteligencia Artificial ha desarrollado y explorado bastantes algoritmos de búsqueda. Puede ser una idea echar un vistazo al menos a uno de ellos.

Digresión menor: Búsqueda de escalada de colinas

Formalicemos ahora lo que entendemos por búsqueda, y luego introduzcamos un algoritmo popular, la llamada escalada de colinas. La Inteligencia Artificial define la búsqueda de una manera similar a ésta: partiendo de un estado inicial, encontrar una secuencia de pasos que, procediendo a través de un conjunto de estados intermedios de búsqueda, conducen a un estado final predefinido. Los pasos individuales -transiciones de un estado de búsqueda a otro- son llevados a cabo por operadores de búsqueda que también han sido preespecificados por el programador. El orden en que se aplican los operadores de búsqueda sigue una estrategia de búsqueda específica.

Criterios de terminación alternativos y funciones de evaluación

También pueden considerarse otros criterios de terminación. (Tal vez sea de interés más investigación sobre el concepto). Se puede ordenar que la búsqueda se detenga cuando haya transcurrido el tiempo máximo asignado (no queremos que el ordenador funcione para siempre), cuando el número de estados visitados haya superado un determinado límite, cuando se haya encontrado algo suficientemente cercano al estado final, cuando nos hayamos dado cuenta de que ya se han visitado todos los estados, y así sucesivamente, la formulación concreta que refleje los aspectos críticos de la aplicación dada, combinando a veces dos o más criterios en uno solo.

Por cierto, la función de evaluación empleada en el ejemplo de los deslizadores era bastante simple, y apenas cumplía su misión: dejar que el usuario transmitiera alguna noción de su comprensión del problema, para dar una pista sobre qué movimiento podría preferir un solucionador humano. Para tener éxito en una aplicación realista, tendríamos que idear una función más sofisticada. Muy a menudo, se pueden concebir muchas alternativas diferentes, cada una de las cuales engendra una secuencia diferente de pasos. Algunos serán rápidos en alcanzar la solución, otros seguirán un camino más tortuoso. El rendimiento (véase una definición en el diccionario y más detalles, en la plataforma general, sobre rendimientos) del programa dependerá entonces de la habilidad del programador para elegir el correcto.

El algoritmo de Hill Combing

Los detalles del algoritmo dependerán, por supuesto, del estilo de programación de cada individuo, pero el código casi siempre contendrá algunas funciones típicas. Una de ellas compara dos estados y devuelve verdadero si son idénticos; así es como el programa comprueba que se ha alcanzado el estado final. Otra función toma un estado de búsqueda determinado y le aplica todos los operadores de búsqueda, creando así un conjunto completo de “estados hijos”. Para evitar bucles infinitos, una tercera función comprueba si un estado ya ha sido investigado. Una cuarta calcula para un estado dado su distancia del estado final, y una quinta clasifica los estados “hijos” en función de las distancias así calculadas y los coloca al principio de la lista L. Y la última función comprueba si se ha cumplido un criterio de terminación.

Escalada de colinas en un dominio con atributos numéricos

Asi:

• Estado inicial: Un círculo está definido por su centro y radio. Podemos identificar el centro inicial con un ejemplo positivo seleccionado al azar, haciendo el radio inicial tan pequeño que el círculo contiene solo este único ejemplo.
• Operadores de búsqueda: Se pueden utilizar dos operadores de búsqueda: uno aumenta el radio del círculo y el otro desplaza el centro de un ejemplo de formación a otro.Entre las Líneas En el primero, también tenemos que determinar cuánto debe cambiar el radio. Una idea es aumentarlo solo en la medida en que el círculo abarque un ejemplo de entrenamiento adicional. Al principio, solo un ejemplo de entrenamiento está dentro. Después del primer paso, habrá dos, luego tres, cuatro, y así sucesivamente.
• Estado final: El círculo puede no ser una figura ideal para representar la región positiva.Entre las Líneas En este caso, puede que no se logre una precisión del 100%, y puede que prefiramos definir el estado final como, por ejemplo, un “clasificador que clasifica correctamente el 95% de los ejemplos de entrenamiento”.
• Función de evaluación: Como antes, elegimos minimizar la tasa de error.

El rendimiento (véase una definición en el diccionario y más detalles, en la plataforma general, sobre rendimientos) del clasificador inducido

Hasta ahora, hemos medido la tasa de error comparando las clases conocidas de los ejemplos de entrenamiento con las recomendadas por el clasificador.

Puntualización

Sin embargo, en la práctica, nuestro objetivo no es volver a clasificar los objetos cuyas clases ya conocemos; lo que realmente queremos es etiquetar los futuros ejemplos, aquellos de cuyas clases todavía somos ignorantes. El rendimiento (véase una definición en el diccionario y más detalles, en la plataforma general, sobre rendimientos) esperado del clasificador en estos casos se estima experimentalmente. Es importante saber cómo.

Por muy razonable que parezca este enfoque, adolece de un importante inconveniente: una elección aleatoria de ocho ejemplos de entrenamiento puede no ser suficientemente representativa del concepto subyacente, y lo mismo se aplica al conjunto de pruebas (aún más pequeño). Si inducimos el significado de un mamífero a partir de un conjunto de entrenamiento que consiste en una ballena, un delfín y un ornitorrinco, el aprendiz puede ser inducido a creer que los mamíferos viven en el mar (ballena, delfín) y a veces ponen huevos (ornitorrinco), opinión que difícilmente aceptará un biólogo. Y aún así, otra elección de ejemplos de entrenamiento puede resultar en un clasificador que satisfaga los más altos estándares. El punto es que una división diferente del conjunto de entrenamiento/pruebas da lugar a un clasificador diferente y también a una estimación diferente del rendimiento (véase una definición en el diccionario y más detalles, en la plataforma general, sobre rendimientos) futuro. Esto es particularmente grave si el número de ejemplos preclasificados es pequeño.

Supongamos que queremos comparar dos algoritmos de aprendizaje automático en términos de la calidad de los productos que inducen. El problema de los conjuntos de entrenamiento no representativos puede mitigarse mediante el llamado submuestreo aleatorio. La idea es repetir varias veces la división aleatoria en los conjuntos de entrenamiento y pruebas, induciendo siempre un clasificador del i-ésimo conjunto de entrenamiento, y midiendo después la tasa de error, E i, en el i-ésimo conjunto de pruebas. El algoritmo que proporciona clasificadores con el valor medio más bajo de E i, se considera mejor, en lo que respecta al rendimiento (véase una definición en el diccionario y más detalles, en la plataforma general, sobre rendimientos) de la clasificación.

La necesidad de explicaciones

En algunas aplicaciones, establecer la clase de cada ejemplo no es suficiente. Igual de deseable es conocer las razones que subyacen a la clasificación. (Tal vez sea de interés más investigación sobre el concepto). Así, es poco probable que un paciente dé su consentimiento para la amputación si el único argumento en apoyo de la cirugía es “esto es lo que dice nuestro ordenador”. ¿Pero cómo encontrar una mejor explicación?

En el ámbito de los “pasteles”, se puede deducir mucho de la propia expresión booleana. Por ejemplo, podemos notar que un pastel fue etiquetado como negativo cuando su forma era cuadrada, y su relleno blanco. Combinando esta observación con fuentes alternativas de conocimiento podemos ofrecer ideas útiles: el tono oscuro del relleno puede indicar amapola, un ingrediente que a Johnny le encanta; o la corteza de las tartas circulares resulta ser más crujiente que la de las cuadradas; y así sucesivamente. Los conocimientos obtenidos de esta manera pueden ser más deseables que la propia clasificación.

Por el contrario, el clasificador en el dominio de los “círculos” es una expresión matemática que actúa como una “caja negra” que acepta la descripción de un ejemplo y devuelve la etiqueta de la clase sin decirnos nada más. Esto no es necesariamente un defecto.Entre las Líneas En algunas aplicaciones, una explicación no es más que un bono de bienvenida; en otras, es superflua.

Consideremos un clasificador que acepta una imagen digital de un personaje escrito a mano y devuelve la letra que representa. El usuario que espera que varias páginas de texto se conviertan en un documento de Word difícilmente insistirá en una explicación detallada para cada uno de los caracteres.

Existencia de soluciones alternativas

Por cierto, debemos notar que muchos clasificadores aparentemente perfectos pueden ser inducidos a partir de los datos dados.Entre las Líneas En el ámbito de los “pasteles”, el conjunto de entrenamiento contenía 12 ejemplos, y las clases de los 96 ejemplos restantes eran desconocidas. Utilizando algunas combinatorias simples, nos damos cuenta de que hay 296 clasificadores que etiquetan correctamente todos los ejemplos de entrenamiento pero difieren en la forma en que etiquetan los 96 desconocidos. Un clasificador inducido puede etiquetar correctamente cada uno de los ejemplos futuros y otro los clasificará erróneamente todos.

Algunas dificultades con los datos disponibles

En algunas aplicaciones, el conjunto de formación se crea manualmente: un experto prepara los ejemplos, los etiqueta con etiquetas de clase, elige los atributos y especifica el valor de cada atributo en cada ejemplo.Entre las Líneas En otros ámbitos, el proceso está informatizado. Por ejemplo, una empresa puede querer anticiparse a la intención de un empleado de abandonar la empresa. Su base de datos contiene, para cada persona, la dirección, el sexo, el estado civil, la función, los aumentos de sueldo, los ascensos, así como la información sobre si la persona sigue en la empresa o, en caso contrario, el día en que se fue. A partir de esto, un programa puede obtener los vectores de atributo, etiquetados como positivos si la persona en cuestión se fue en el plazo (véase más detalles en esta plataforma general) de un año desde la última actualización del registro de la base de datos.
A veces, los vectores atributos se extraen automáticamente de una base de datos y son etiquetados por un experto. Otra posibilidad es que algunos ejemplos se obtengan de una base de datos y otros se añadan manualmente. A menudo, se combinan dos o más bases de datos. El número de esas variaciones es prácticamente ilimitado.

Pero cualquiera que sea la fuente de los ejemplos, es probable que sufran de imperfecciones cuya esencia y consecuencias el ingeniero tiene que entender.

Atributos Irrelevantes

Para empezar, algunos atributos son importantes, mientras que otros no lo son. Aunque a Johnny le gusta mucho el relleno de amapola, su preferencia por el pastel no depende del tamaño del zapato del cocinero. Esto es algo de lo que preocuparse: los atributos irrelevantes se suman a los costos (o costes, como se emplea mayoritariamente en España) computacionales; incluso pueden confundir al aprendiz.

¿Pueden ser evitados?

Normalmente no. Es cierto que en los dominios creados manualmente, se supone que el experto sabe qué atributos son realmente importantes, pero incluso aquí, las cosas no son tan simples.

Una Conclusión

Por lo tanto, el autor del dominio “pasteles” podría haber hecho lo posible por elegir aquellos atributos que creía que importaban.Si, Pero: Pero insegura de las verdaderas razones detrás de los gustos de Johnny, pudo haber incluido atributos cuya necesidad sospechaba, pero no podía garantizar. Con mayor frecuencia, los problemas de pertinencia se producen cuando los ejemplos se extraen de una base de datos. Las bases de datos se desarrollan principalmente con la intención de proporcionar acceso a mucha información, de la cual normalmente solo una pequeña parte pertenece a la tarea de aprendizaje.Entre las Líneas En cuanto a qué parte es ésta, normalmente no tenemos ni idea.

Atributos faltantes

Por el contrario, algunos atributos críticos pueden faltar. Consciente de las finanzas de sus padres, Johnny puede tener prejuicios contra los pasteles caros. La ausencia del precio del atributo hará entonces imposible inducir un buen clasificador: dos ejemplos, idénticos en cuanto a los atributos disponibles, pueden diferir en los valores del atributo vital “faltante”. No es de extrañar que, aunque idénticamente descritos, un ejemplo sea positivo y el otro negativo. Cuando esto sucede, decimos que el conjunto de entrenamiento es inconsistente. La situación es a veces difícil de evitar: no solo puede ser que el experto desconozca la importancia del precio del atributo, sino que puede ser imposible proporcionar los valores de este atributo y, por lo tanto, el atributo no puede utilizarse de todos modos.

Basado en la experiencia de varios autores, mis opiniones, perspectivas y recomendaciones se expresarán a continuación (o en otros lugares de esta plataforma, respecto a las características en 2026 o antes, y el futuro de esta cuestión):

Atributos redundantes

Algo menos perjudiciales son los atributos que son redundantes en el sentido de que sus valores pueden obtenerse a partir de otros atributos. Si la base de datos contiene la fecha de nacimiento de un paciente así como su edad, esta última es innecesaria porque puede calcularse restando la fecha de nacimiento de la fecha de hoy. Afortunadamente, los atributos redundantes son menos peligrosos que los irrelevantes o que faltan.

Valores de atributos faltantes

En algunas aplicaciones, el usuario no tiene problemas para identificar la elección correcta de los atributos.

Puntualización

Sin embargo, el problema es que no se conoce el valor de algunos atributos. Por ejemplo, la empresa que analiza la base de datos de sus empleados puede no saber, para cada persona, el número de hijos.

Atributo: Ruido de valor

Los valores de los atributos y las etiquetas de clase a menudo no pueden ser confiables debido a fuentes de información poco fiables, dispositivos de medición deficientes, errores tipográficos, la confusión del usuario y muchas otras razones. Decimos que los datos sufren de varios tipos de ruido.

El “ruido estocástico” es aleatorio. Por ejemplo, como nuestro peso corporal varía durante el día, la lectura que obtenemos por la mañana es diferente a la de la tarde. Un error humano también puede jugar un papel: al no tener tiempo para tomar la presión sanguínea de un paciente, una enfermera negligente simplemente garabatea una modificación de la lectura anterior.

Pormenores

Por el contrario, el “ruido sistemático” arrastra todos los valores en la misma dirección. (Tal vez sea de interés más investigación sobre el concepto). Por ejemplo, un termómetro mal calibrado siempre da una lectura más baja de lo que debería. Y algo diferente ocurre en el caso de artefactos arbitrarios; aquí, el valor dado no tiene relación con la realidad como cuando un electrodo de EEG se suelta y, a partir de ese momento, todas las lecturas posteriores serán cero.

Etiqueta de clase Ruido

Las etiquetas de clase sufren problemas similares a los de los atributos. Es posible que las etiquetas recomendadas por un experto no hayan sido registradas correctamente; alternativamente, algunos ejemplos se encuentran en una “zona gris” entre dos clases, en cuyo caso las etiquetas correctas no son seguras.Entre las Líneas En ambos casos se trata de un ruido estocástico, del cual este último puede afectar negativamente solo a los ejemplos de la región fronteriza entre las dos clases.

Puntualización

Sin embargo, el ruido de etiqueta de clase también puede ser sistemático: un médico puede ser reacio a diagnosticar una enfermedad rara a menos que la evidencia sea abrumadora – sus etiquetas de clase tienen entonces más probabilidades de ser negativas que positivas.

Detalles

Por último, los artefactos arbitrarios en las etiquetas de clase se encuentran en dominios en los que las clases se suministran mediante un proceso automatizado que ha fallado.

El ruido de las etiquetas de clase puede ser más peligroso que el ruido de los valores de atributo. Así, en el dominio de los “círculos”, un ejemplo situado en lo profundo de la región positiva permanecerá allí aunque el valor de un atributo se modifique ligeramente; solo el ejemplo fronterizo sufrirá por ser “enviado a través de la frontera”.

Pormenores

Por el contrario, el ruido de la etiqueta de clase invalidará cualquier ejemplo.

Datos verificados por: LI

El aprendizaje profundo

El aprendizaje profundo permite que los modelos computacionales que se componen de múltiples capas de procesamiento aprendan representaciones de datos con múltiples niveles de abstracción. (Tal vez sea de interés más investigación sobre el concepto). Estos métodos han mejorado dramáticamente el estado del arte en reconocimiento de voz, reconocimiento visual de objetos, detección de objetos y muchos otros dominios como el descubrimiento de drogas y la genómica. El aprendizaje profundo descubre la intrincada estructura de los grandes conjuntos de datos utilizando el algoritmo de retropropagación para indicar cómo una máquina debe cambiar sus parámetros internos que se utilizan para computar la representación en cada capa a partir de la representación en la capa anterior. Las redes convolucionales profundas han producido avances en el procesamiento de imágenes, vídeo, voz y audio, mientras que las redes recurrentes han hecho brillar la luz sobre datos secuenciales como el texto y el habla.

Datos verificados por: LI

Recursos

Véase También

Clasificadores bayesianos, teoría de aprendizaje computacional, árboles de decisión, algoritmos genéticos, clasificadores lineales y polinómicos, clasificador del vecino más cercano, redes neuronales, evaluación del rendimiento, aprendizaje de refuerzo, aprendizaje estadístico, clases variables en el tiempo, representación desequilibrada, inteligencia artificial, datos de aprendizaje automático, minería de aprendizaje profundo, aprendizaje no supervisado

Aprendizaje profundo
Dinámica de sistemas
Inteligencia artificial
Inteligencia computacional
Internet de las cosas
Sistema dinámico
Minería de datos
Reconocimiento de patrones
Reglas de asociación
Robot autónomo
Sistema complejo
Representación del conocimiento
Equidad (aprendizaje automático)
Análisis predictivo – Técnicas estadísticas que analizan los hechos para hacer predicciones sobre eventos desconocidos
El aprendizaje de las máquinas cuánticas
Aplicaciones del aprendizaje a máquina en bioinformática
Seq2seq
Equidad (aprendizaje automático)

Ciencias de la computación, minería de datos, Descubrimiento de conocimientos, Grandes datos, Análisis de datos, inteligencia computacional, Inteligencia artificial, Visión por computadora, Cibernética, Aprendizaje, Aprendizaje Profundo, Algoritmos de clasificación, Estadística computacional, Neurociencia computacional, Investigación de mercado, Segmentación de mercado, Psicología matemática, Métodos económicos matemáticos, Métodos económicos cuantitativos

▷ Esperamos que haya sido de utilidad. Si conoces a alguien que pueda estar interesado en este tema, por favor comparte con él/ella este contenido. Es la mejor forma de ayudar al Proyecto Lawi.