Obtener datos de una consulta Oracle directo a un DataFrame de PANDAS y renombrar las columnas

En esta ocasión les compartiré mi experiencia obteniendo datos directamente de la base de dsatos Oracle sin almacenar los resultados en un archivo CSV, para losgrar esto deberemos instalar el instant client correspondiente a nuestra versión de sistema operativo en el equipo (funciona para Linux Ubuntu 20.04, Windows 10) y ponerlo en la ruta de búsqueda definida del sistema (PATH), una vez realizado esto, podremos conectar a la BD de Oracle de forma habitual en cualquiera de los métodos que para ello nos propociona la libreria cx_Oracle, en mi caso me gusta conectarme en un solo paso escribiendo los datops de conexión en el programa (asumiendo que trabajamos en un entorno seguro, de no ser así, les aconsejo que pidan los datos de conexión a través de variables en cada ejecución (más tedioso, pero más seguro).

Figura 1.- Librerias necesarias para obtener los datos y manipularlos.
Fuente: elaboración propia.

El primer paso como se ve en la figura 1 es importar las librerias que nos permitirán realizar la conexión a la base de datos y almacenar los datos en un DataFrame. posteriormente se deberá de realizar las instrucciones necesarias para localizar la instancia de la base de datos, el alías del servidor, el usuario y la contraseña del mismo, como mencione antes, en mi caso escribo la cadena de conexión directamente en el script, ya que mi equipo se encuientra en una ubicación segura y el usuario que se emplea en la consulta no tiene ´rivilegios para afectar los datos consultados. En la figura 2 podemos observar las instrucciones necesarias para lograr la conexión, hecho esto el script de Python esta listo para realizar la consulta y devolvernos los datos.

Figura 2.- Instrucciones necesarias para preparar la consulta a la base de datos de oracle.
Fuente: elaboración propia. 

La cadena de conexión deberá estar formada por los siguientes datos <usuario oracle>/<contraseña>@<dirección del servidor>/<nombre de la instancia> todo ello concatenado en una cadena de texto, que se pasa a la variable conn_str.

Por ejemplo: si tu usuario es 'miguel', tu contraseña es 'm2022a', la dirección de servidor es '192.168.1.254', el puerto de Oracle es '1521' y la instancia se llama 'datawarehouse' la cadena de conexión será 'miguel/m2022a@192.168.1.254/datawarehouse'

Figura 3.- La consulta a la base de datos se puede escribir en una sola línea.
Fuente: elaboración propia.

Ya que para Python es indiferente que usemos un apostrofe simple o una comilla doble para definir textos, pero para Oracle no es así y se pide que los textos en una consulta se delimiten con apostrofes, se aconseja que la consulta SQL se entrecomille, y así podemos conservar la consulta SQL tal cual la tenemos escrita en nuestro ambiente PL/SQL.

Figura 4.- En el explorador de variables del IDE Spyder podemos ver que el DataFrame dadm tiene como nombres de columna los números 0 a 22.
Fuente: elaboración propia.

Al ejecutar estas instrucciones podemos ver que despues de la consulta los resultados de la misma se almacenan en un objeto tipo DataFrame que se crea de forma dinámica (no se define su estructura con anterioridad), y que el mismo se popula con los resultados de la consulta con la instrucción fetchall(). 

Figura 5.- El DataFrame obtenido al ejecutar el script, con sus columnas numeradas de 0 a 23.
Fuente: elaboración propia.

La variable creada contendra todos los datos de la consulta pero los nombres de las columnas definidos en nuestra consulta SQL, que exportados a un CSV nos permitirian al cargarlos en un DataFrame con la instrucción read_csv() de pandas, obtener las columnas nombradas de forma correcta, en este caso dichos encabezados no existen y las columnas con datos se numeran a partir de 0 (cero), lo cual podría resultarnos dificil de manejar al procesar la información, para solucionar este inconveniente, es posible utilizar la instrucción rename y nombrar las columnas como mejor nos convenga.

Figura 6.- instrucciones necesarias para renombrar las columnas del DataFrame.
Fuente: elaboración propia.

Para renombrar las columnas tendremos que crear un diccionario al cual podremos nombrar como se nos ocurra, en este caso se nombro como colnom (abreviación de columnas nombre) y posteriormente aplicar la instrucción rename() sobre el propio DataFrame para que se actualicen los nombre de las colñumnas.

Figura 7
.- Variables despues del renombrado de las columnas, ahora existe una variable de tipo diccionario y el DataFrame tienen nombres en vez de números en sus columnas.
Fuente: elaboración propia.

Renombrar las columnas de un DataFrame nos será de mucha utilidad para clarificar nuestro código a futuros lectores, si bien, no es algo necesario, si es una buena práctica, es mucho más fácil inferir que una columna llamada promedios contiene el promedio de algo, que memorizar que la columna con los promedios es la numero 28. En el caso de la consulta de nuestro ejemplo, no hay níngún dato de dificil identificación para un ojo experto, pero los usuarios nuevos (recien contratados por lo general) suelen desconocer por completo los datos, no esta demás que tengamos la buena costumbre de facilitar las posibles revisiones de códigos por parte de terceros y disminuir la curva de aprendizaje de los mismos desde el origen mismo de nuestros scripts.

Figura 8.- El DataFrame con las columnas renombradas es más descriptivo de su contenido.
Fuente: elaboración propia.

Siempre srá más fácil para todos comprender un código donde cada cosa se nombra por su nombre común o por una abreviatura consistente que un código donde dejamos que el lenguaje asigne arbitrariamente los indices a nuestras estructuras de datos. Es posible que el programador autor del script sea muy bueno recordando como organizao la información, pero siempre es mejor preveer que es posible que en algún momento no estemos y nuestro código deberá ser modificado, y en caso de que no se logre modifiicar, indudablemente sera desechado y se escribirá un nuevo script que lo sustituya.

Espero que este pequeño aporte contribuya a facilitar el camino en el aprendizaje de Python para aquellos entusiastas del aprendelo por tu cuenta, y que este lenguaje gane cada vez más adeptos en el ambiente administrativo ya que la libreria pandas es como un Excel con super poderes, y facilita hasta la visualización de datos mediante la propia libreria pandas o mediante muchas otras librerias especializadas como matplotlib, seaborn y muchas otras. Trabajos administrativos que con Excel podrían tomar 7 o más días en lo que se realizan las consultas a base da datos, se depuuran los datos, se obtienen los archivos fuentes, se procesan para obtener las tablas de datos, se conviernten estás mismas en tablas dinámicas y se generan diferentes gráfi, es posible hacerlos en un solo día inviertiendo algo de tiempo en la elaboración de un script de Python que utilizando pandas, cx_Oracle y algunas otras librerias según la necesidad obtengan los datos y los procesen automáticamente.

En mi experiencia un proceso de generación de indicadores para informes trimestrales nos podía tomar entre 7 y 9 días debido a errores al mover los datos de una tabla a otra o en la escritura de las fómulas, hoy el script de Python se encarga de todo y tenemos la certeza de que los cálculos cuadran se manipulen de la forma que sea ya que las validaciones no permiten que haya esas problematicas diferencias de 1 dato más o un dato menos, que suelen ocurrir cuando movemos datos entre libros de Excel o hasta entre las hojas de un mismo libro de forma manual.

Como crear un índice a partir de una columna de datos de un DataFrame en Python

Cuando trabajamos con base de datos sin tener privilegios para crear procedimientos almacenados y funciones, es muy probable que los resultados de nuestras consultas siempre sean archivos CSV que contienen miles de datos y nos veamos forzados a trabajarlos en una hoja de cálculo creando ya sea tablas dinámicas, fórmulas, o bien validando datos todas estas opciones son relativamente sencillas para quienes tienen conocimientos más allá de lo básico en el manejo de hojas de cálculo, pero en ocasiones para los usuarios de nivel intermedio, el crear informes personalizados o procesar los datos de forma manual cada vez que piden un nuevo informe llega a ser una tarea engorrosa que consume muchas horas y en ocasiones hasta días, quedándose corta la funcionalidad de las hojas de cálculo y poniendo en entredicho nuestra productividad. Al llegar a este límite, los usuarios avanzados buscan como hacer las cosas en el menor tiempo posible y una forma de lograrlo es encontrar un lenguaje de programación que permita manipular los datos de forma automatizada y crear una hoja de Excel a la cual ya solo haya que darle un formato elegante para presentar la información, esto nos hace más productivos y nos permite dedicar tiempo a funciones laborales más importantes que estar armando reportes con fórmulas, funciones y tablas dinámicas.

Los datos fuente son archivos CSV obtenidos de una consulta SQL.
FUente: elaboración propia.

Una de las características de los reportes administrativos es el hecho de que los miles de datos obtenidos en una consulta a BD por lo general deben ser sumarizados en informes que presentan la misma información de muchas maneras, por ejemplo, las estadísticas escolares y sus indicadores suelen presentar los datos por programa educativo y sexo, por turno y sexo, por grado y sexo, por modalidad y sexo, por edad y sexo, por índices de reprobación y sexo, por índices de aprovechamiento y sexo, discapacidades, etnias, lugares de nacimiento y lugares de procedencia, los mismos datos una y otra vez, organizados por programa educativo, modalidad y nivel  académico. Es aquí donde debemos comenzar a plantear como programaremos está construcción de estructuras de datos que nos presenten ya organizados los datos para ponerlos directamente en una hoja de cálculo sin necesidad de hacer nada más que ejecutar el programa y revisar el formato de la presentación, el primer y más importante paso es obtener los índices que nos permitirán sumarizar los datos: programas educativos, sexo, modalidad, nivel, turno,  etnias reportadas, discapacidades reportadas, procedencias reportadas y lugares de nacimiento reportados, mismos que podrían ser solo uno o varios en cada programa educativo, y que la función que se presentará en esta entrada del blog permitirá obtener para cada columna que deseemos usar como índice en un ciclo de sumarización de datos.

El primer paso consiste en importar la librería Pandas.
Fuente: elaboración propia.

Esta librería nos proporciona métodos para trabajar con archivos CSV y crear DataFrames a partir de ellos, mismos que posteriormente podemos manipular de forma fácil a través de los diversos métodos que implementan.

Esta función permite crear índices a partir de los valores contenidos en una columna de datos.
Fuente: elaboración propia.

La función que se presenta en la imagen antecedente permite que obtengamos una lista de valores que podemos usar como índice para clasificar datos en un DataFrame, por ejemplo si existe una columna estados con 4000 filas en las cuales están los datos de los estados de procedencia de 4000 personas, esta función nos permitiría obtener la cantidad de estados presentes en la columna y posteriormente con esta información podríamos recorrer toda la columna contando los elementos que coinciden con alguno de los índices localizados.

Aquí se muestra como se obtienen los datos y como se ordena el DataFrame, para facilitar que los índices estén en el orden deseado.
Fuente: Elaboración propia.

Para obtener los datos usaremos la función read_csv de los DataFrames de Panda, misma que nos permitirá obtener los datos de un archivo ".csv" que previamente hemos obtenido de una consulta a base de datos o de algún otro tipo de fuente como es un sistema de información o Excel.

El DataFrame creado a partir de CSV luce así ya ordenado de acuerdo a las columnas de interés, podemos ver que en la columna de la derecha esta el orden real de los datos en el archivo .csv.
Fuente: Elaboración propia.

Ordenar el DataFrame es una buena idea para que al obtener los índices ya no tengamos que implementar un algoritmo de ordenación por cuenta propia y ahorremos tiempo de programación. Lo siguiente será tomar la columna de interés, en este caso los nombre de los programas educativos.

Es importante observar que se selecciona solo una columna llamándola por su encabezado, y que se especifica que será una tupla y no una serie, ya que las series no poseen ciertas cualidades.
Fuente: Elaboración propia. 

Ya teniendo la tupla de los programas educativos haremos uso de la función diseñada y obtendremos los valores indice para las consultas de todos los programas educativos que nos permitirán procesar nuestros indices y tablas para crear un archivo de Excel.

La función la invocamos pasando la tupla que contiene la columna 'Prog_educ' del DataFrame "datos", y en la variable programas educativos quedarán los valores índice.
Fuente: Elaboración propia.

El resultado de esta función se almacena en la tupla programas educativos el cual contendrá la lista de todos los programas educativos presentes en la columna 'prog_educ' y que nos permitirá realizar las operaciones de cálculo necesarias para procesar los datos de los diferentes programas educativos y aplicar los cálculos sobre los datos.

Contar con el índice de programas educativos nos permitirá realizar bucles for para ir recabando la información pertinente de nuestro interés de forma fácil.

El uso de un bucle for nos permitirá ir tomando cada valor del índice de nuestro interés para realizar los cálculos de los diferentes indicadores solicitados como son cantidad de alumnos por sexo, indice de reprobación, alumnos de nuevo ingreso por programa educativo, egresados por programa educativo, aprovechamiento por programa educativo y demás métricas que sean de nuestro interés y que se puedan calcular a través de la manipulación de los valores contenidos en nuestra consulta y que pusimos de forma ordenada en el DataFrame denominado "datos".

Espero que esta pequeña contribución le permita a aquellos que inician en Python desde cero y sin capacitación dar sus primeros pasos y tomar confianza para ir usando los métodos más avanzados y eficientes que las múltiples librerías nos ofrecen. 

Termine por escribir esta pequeña contribución debido a que en mi caso no hallaba ningún material nivel cero con el uso de datos locales en Internet, solo ejemplos basados en datos obtenidos de la nube y con funciones de análisis estadísticos que aunque no dudo que sean importantes para la investigación, la realidad es que son poco significativas para el trabajo administrativo que muchos deseamos automatizar en nuestras oficinas cuando nos encargan informes y la elaboración de indicadores.

El obtener los valores índices es lo que nos permite generar los conteos que nos llevarán a la creación de los índices que por lo general son el tipo:

índice de reprobación = alumnos irregulares / alumnos inscritos * 100

índice de aprovechamiento = suma de promedios / número de alumnos

egresados por programa educativo = conteo de alumnos que tienen el 100% de avance al final del ciclo.

Y por lo general en el área administrativo no suelen emplearse los métodos que se usan para el análisis de datos científicos, pero Pandas puede usarse fácilmente para ordenar nuestros datos y permitirnos diseñar fórmulas para obtener la información que deseamos sin tener que recurrir al uso de fórmulas, funciones y tablas dinámicas que aunque facilitan mucho el trabajo, suelen tomarnos mucho y en muchos casos requieren un trabajo adicional para acomodar los datos exactamente como los requerimos. En mi caso, llegue al límite de lo que las tablas dinámicas podían hacer por mi y después de llegar a ese límite tenía que pasar muchas horas procesando datos en nuevas hojas de Excel y terminaba con archivos en los que había n pestañas para los indicadores solicitados y m pestañas para los datos fuentes ordenados o sumarizados de diferentes formas, usar programación para realizar el trabajo nos permite que el archivo generado contenga solo la información deseada ya procesada y una hoja dedicada a los datos fuentes en la cual quien quiera auditar podrá realizar los cálculos y agrupaciones que desee, teniendo nosotros la seguridad de que obtendrán los mismos resultados, ya que el correcto diseño y validación de nuestras fórmulas y funciones en nuestro programa nos da la certeza de los resultados correcto, y con el plus que todo el proceso estará listo en minutos y no en días.

 

Como crear un Libro de Excel y agregarle hojas desde Python

Para poner datos producto del tratamiento de información en un archivo de Microsoft Excel para facilitar su presentación y preservación, podemos hacer uso de la libreria "openpyxl" misma que nos permitirá personalizar muchas opciones del libro de Excel de forma fácil e intuitiva, a continuación explicaremos paso a paso cada una de los pasos necesarios y las instrucciones de la librería mencionada para lograr el objetivo.

Código python que crea un libro de Excel con varias hojas nombradas.
Fuente: Elaboración propia

EL primer paso es instalar la libreria requerida "openpyxl" ya sea a través de PIP o en su caso de la interfaz a través de la cual hacemos uso de Python.

Instalada la librería la llamaremos en nuestro código mediante la instrucción "import", como podemos notar en la línea 167 de la imagen previa, el aias "xl" para la libreria puede ser cualquiera que se nos antoje.

Posteriormente crearemos una variable (objeto) que mande llamar una instancia de un libro de Excel, en este caso en la linea 169 podemos ver como hacerlo, la variable wb será el medio por el cual podremos crear la hoja de cálculo a través de sus diversas propiedades.

En la línea 170 creamos una variable para almacenar los datos de la hoja de calculo en la cual comenzaremos a trabajar y para ello usamos la propiedad "active", si deseamos personalizar el nombre de dicha hoja usaremos la propiedad title como se muestra en la línea de código 172.

En la línea de código 174 podemos ver la forma de acceder a una celda específica y poner contenido en ella, por simplicidad aquí decidimos poner un texto, pero es posible pasar el valor de una variable.

Para crear una segunda hoja en el mismo libro como se  muestra en las líneas de código 176 a 178, hacemos uso de una segunda variable y definimos al momento de crearla sus atributos y la marcamos como activa.

Podemos notar que a las celdas específicas se accede mediante la nomenclatura conocida de ColumnaFila entrecomillados. 

Finalmente para guardar el libro de Excel en la línea de código 188 podemos ver la función utilizada, y que debemos proporcionar el nombre del libro entrecomillado, esto creará el archivo de Excel en el directorio en el que estemos trabajando en Python.

Como podemos ver es muy sencillo pasar los resultados de nuestros programas a Excel en sustitución del acostumbrado formato de archivo de texto plano o separado por comas.

Eso podría darle un plus a la presentación de tus datos en tu próximo encargo laboral o escolar.

Espero que esta pequeña guía te sea de utilidad.

Evolución de la economía mexicana de 2015 a 2022

Cárdenas, Tabasco a 10 de enero de 2022 - La economía mexicana esta siendo cuestionada a nivel mundial debido a lo inestable que se ha vuelto el país en lo económico, social y sobre todo al debilitamiento del sistema legal en el país que ha caído víctima de un régimen fascista  que se autodenomina "la cuarta transformación" y que sus detractores jocosamente denominan "la transformación de cuarta" o "la cuarta trastornación".

La caída de la economía mexicana del podio de las 15 mayores del mundo ha sido ocultada de forma magiustral por los políticos mexicanos, pero a nivel internacional encendió focos rojos para los inversores mismos que desde 2018 comenzaron a sacar sus capitales del país, el país ha sido tan mal manejado que ni el tradicional arrastre de la economía de su principal socio comercial los Estados Unidos de América, ha sido capaz de frenar el mal desempeño de la economía mexicana, misma que tomando como base el año 2015, se encuentra hoy en 2022 con la perspectiva de volver a colocarse a niveles de 2017, eso si logra crecer, porque si bien en un principio se esperaba que creciera un 5.7%, las decisiones del gobierno han logrado dañar tanto la imagen del país ante los inversores y generar tanta inestabilidad interna que actualmente se prevé quien el país apenas si alcance el 1.7% de crecimiento o se estanque.

Desempeño relativo de la economía mexicana tomando como base de cálculo el año 2015

Como puede observarse en la gráfica, y pese a todo lo que el gobierno actual diga y culpe a los gobiernos anteriores es innegable que algo se esta haciendo mal, en el inicio de la gráfica puede verse claramente un crecimiento prácticamente lineal hasta el año 2018, y una abrupta caída a partir de entonces, si bien es cierto que la pandemia agravó artificialmente la caída de la economía en el año 2020, durante el cual en México la economía se paralizó al trabajar y estudiar las personas desde casa, ajustando esa anomalía veremos que el decrecimiento de la economía que se esperaba de todas formas por las políticas gubernamentales era de 0.1%, basándonos en ello, y estando en la seguridad de que ningún cambio de política sería realizado por el actual gobierno, la gráfica que obtenemos no es nada esperanzadora. Vemos que la tendencia es a la baja sostenida, si el país fuese un vehículo podríamos decir que se quedo sin combustible y está perdiendo poco a poco el impulso hasta que eventualmente llegará a detenerse (con o sin pandemia).

Desempeño ajustado de la economía mexicana para los años 2019 y 2020

Es necesario un cambio de rumbo, cierto es que la corrupción frenó durante muchos años al país, aún con todas sus ventajas estratégicas como ubicación, clima, recursos naturales; es también necesario decir que ni en los peores años de corrupción anteriores a este sexenio el crecimiento del país se había visto tan afectado, ahora a la corrupción debemos sumar la ineptitud y la ideologización del aparato de gobierno, misma que hace imposible que corrijan errores o siquiera acepten que los tienen. ¿Cuánto más resistirá la economía? ¿Podrá evitarse la fractura del pacto federal? ¿Estaremos quizá ante el surgimiento de una nueva división geopolítica que divida a México en dos naciones? Podría ser, por lo pronto el tren de la cuarta transformación avanza a velocidad total y corre el riesgo de descarrilar al país como nunca nunca antes en los últimos 200 años.

Las reformas implementadas por gobiernos anteriores eran buenas, solo necesitábamos combatir la corrupción, como bien decía el actual gobierno en sus años previos a llegar al poder, por desgracia al llegar se dejaron conquistar por las mieles del poder y dejaron a los mismos de siempre haciendo lo que siempre hacen, el gobierno de la "transformación" en realidad esta compuesto por los mismos personajes de los gobiernos que hoy se denominan de la "corrupción", ¿Qué cambio podría haberse dado?.

Empieza el año que marca el inicio de la segunda mitad de este sexenio (2018-2024), tres años se han perdido, ¿tres más se perderán?, nadie lo sabe con exactitud, lo que si sabemos es que hoy día para los ciudadanos hay menores ingresos, mayor pobreza, mayor inseguridad, menos cobertura de salud, menos prestaciones laborales, menos estabilidad laboral, mayores costos, mayor inflación, menor seguridad jurídica, mayor impunidad, un peor sistema educativo, menos empleo, menos oportunidades, lo único que si ha aumentado son las remesas que el gobierno quiere considerar como logro propio, cuando en realidad es reflejo del fracaso de todo lo demás...

Así las cosas, iniciamos 2022 con muchas nubes negras, pero con muchas esperanzas de que se de un cambio de rumbo en la conducción de país, y que esta pesadilla se acabe y sea algo de que comentar en años futuros, a como paso con los terribles sexenios de Portillo, de la Madrid y Salinas. México requiere certeza, legalidad y sobre todo el cese de la impunidad y de la corrupción. Si esto no se detiene muy probablemente estaremos ante el principio del fin del país que conocimos y que tantos años nos llevo construir, destruido en tan solo un sexenio...