Education and artificial intelligence: chatbots and mathematics teachers performance at solving geometry problems

Authors

  • Ana Rosa Corica Universidad Nacional del Centro de la Provincia de Buenos Aires, Facultad Cs. Exactas, NIEM, CONICET, Tandil, Argentina
  • Patricia Sureda Universidad Nacional del Centro de la Provincia de Buenos Aires, Facultad Cs. Exactas, NIEM, CONICET, Tandil, Argentina
  • Verónica Parra Universidad Nacional del Centro de la Provincia de Buenos Aires, Facultad Cs. Exactas, NIEM, CONICET, Tandil, Argentina
  • Silvia Schiaffino Universidad Nacional del Centro de la Provincia de Buenos Aires, Facultad Cs. Exactas, ISISTAN, CONICET, Tandil, Argentina
  • Daniela Godoy Universidad Nacional del Centro de la Provincia de Buenos Aires, Facultad Cs. Exactas, ISISTAN, CONICET, Tandil, Argentina

Keywords:

Classical geometry, Fractal geometry, Generative AI, Education, Mathematics teachers

Abstract

Generative artificial intelligence (GenAI) has emerged as a disruptive technology with a wide adoption that has greatly impacted on education. This work aims at analyzing the performance of three chatbots at solving four Geometry problems, two of them belonging to classical geometry and the other two in the area of fractal Geometry. Also, we compare chatbots’ solutions against those proposed by eight in-service Mathematics teachers. The solutions analysis and comparison are carried out taking into account the type of solutions suggested, the soundness, the procedures employed, and mathematical justifications given. The general method is exploratory, and for each problem type we present particular categories of analysis. The results obtained evidence chatbots’ shortcomings when solving Geometry problems, mainly when dealing with graphical representations and spatial locations, as well as their advantage at mathematical validations. We conclude that GenIA has a great potential to contribute to Geometry problem solving as long as the answers are critically judged.

Downloads

Download data is not yet available.

Author Biographies

Ana Rosa Corica, Universidad Nacional del Centro de la Provincia de Buenos Aires, Facultad Cs. Exactas, NIEM, CONICET, Tandil, Argentina

Investigadora Independiente del CONICET (Argentina) y Profesora Adjunta de la Facultad de Ciencias Exactas de la UNCPBA (Tandil, Argentina). Es Doctora en Ciencias de la Educación (2010), Licenciada en Educación Matemática (2005) y Profesora en Matemática y Física (2002). Directora y fundadora del Núcleo de Investigación en Educación Matemática (NIEM) de la UNCPBA. Tiene más de 20 años de experiencia en el área de Educación Matemática y Física y en la formación universitaria inicial y continua de profesores de matemática. Sus publicaciones más recientes son: “Can generative AI solve Geometry problems? Strengths and weaknesses of LLMs for geometric reasoning in Spanish”; e “Inteligencia Artificial Generativa en la formación de Profesores de Matemática en servicio”.

Patricia Sureda, Universidad Nacional del Centro de la Provincia de Buenos Aires, Facultad Cs. Exactas, NIEM, CONICET, Tandil, Argentina

Investigadora Asistente del CONICET (Argentina) y Profesora Adjunta de la Facultad de Ciencias Exactas UNCPBA (Tandil, Argentina). Doctora en Enseñanza de las Ciencias. Mención Matemática (2012), Licenciada en Educación Matemática (2006) y Profesora en Matemática (2005). Integrante y fundadora del Núcleo de Investigación en Educación Matemática (NIEM) de la UNCPBA. Tiene 20 años de experiencia en el área de Educación Matemática y en la formación universitaria inicial y continua de profesores de matemática. Publicaciones recientes: “Can generative AI solve Geometry problems? Strengths and weaknesses of LLMs for geometric reasoning in Spanish”; e “Inteligencia Artificial Generativa en la formación de Profesores de Matemática en servicio”.

Verónica Parra, Universidad Nacional del Centro de la Provincia de Buenos Aires, Facultad Cs. Exactas, NIEM, CONICET, Tandil, Argentina

Investigadora Adjunta del CONICET (Argentina) y Profesora Adjunta de la Facultad de Ciencias Exactas UNCPBA (Argentina). Doctora en Enseñanza de las Ciencias. Mención Matemática (2013), Licenciada en Educación Matemática (2008) y Profesora en Matemática (2005). Integrante y fundadora del Núcleo de Investigación en Educación Matemática (NIEM) de la UNCPBA. Tiene 20 años de experiencia en el área de Educación Matemática y en la formación universitaria inicial y continua de profesores de matemática. Publicaciones recientes: “Can generative AI solve Geometry problems? Strengths and weaknesses of LLMs for geometric reasoning in Spanish”; e “Inteligencia Artificial Generativa en la formación de Profesores de Matemática en servicio”.

Silvia Schiaffino, Universidad Nacional del Centro de la Provincia de Buenos Aires, Facultad Cs. Exactas, ISISTAN, CONICET, Tandil, Argentina

Investigadora Principal de CONICET (Argentina) y Profesora Asociada con Dedicación Exclusiva en la Facultad de Ciencias Exactas de la UNCPBA (Tandil, Argentina). Es Magíster en Ingeniería de Sistemas (2001) y Doctora en Ciencias de la Computación (2004). Posee más de 20 años de experiencia en el área de Inteligencia Artificial. Sus publicaciones más recientes son: “Can Generative AI Solve Geometry Problems? Strengths and Weaknesses of LLMs for Geometric Reasoning in Spanish”,  “An approach for explaining group recommendations based on negotiation information” y “A Lightweight Approach for Building User Mobility Profiles”.

Daniela Godoy, Universidad Nacional del Centro de la Provincia de Buenos Aires, Facultad Cs. Exactas, ISISTAN, CONICET, Tandil, Argentina

Investigadora Principal de CONICET (Argentina) y Profesora Asociada con Dedicación Exclusiva en la Facultad de Ciencias Exactas de la UNCPBA (Tandil, Argentina).  Es Magíster en Ingeniería de Sistemas (2001) y Doctora en Ciencias de la Computación (2005).  Posee más de 20 años de experiencia en el área de Inteligencia Artificial. Sus publicaciones más recientes son: “Can Generative AI Solve Geometry Problems? Strengths and Weaknesses of LLMs for Geometric Reasoning in Spanish”, “A Study on Influential Features for Predicting Best Answers in Community Question- Answering Forums”, y “I Want to Break Free! Recommending Friends from Outside the Echo Chamber”.

References

Abrate, R. S., Delgado, G. I., & Pochulu, M. D. (2006). Caracterización de las actividades de Geometría que proponen los textos de Matemática. Revista Iberoamericana De Educación, 39(1), 1–9. https://doi.org/10.35362/rie3912598

Alexander, D. C. & Koeberlein, G. M. (2011). Geometría Quinta Edición. México D.F.: Cengage Learning.

Barrantes, M. & Balletbo, I. (2012). Tendencias actuales de la enseñanza-aprendizaje de la geometría en educación secundaria. Revista Internacional de Investigación en Ciencias Sociales, 8(1), 25-42.

Bosch, M., Gascón, J. (2009). Aportaciones de la Teoría Antropológica de lo Didáctico a la formación del profesorado de matemáticas de secundaria. En M.J. González, M.T. González & J. Murillo (Eds.), Investigación en Educación Matemática XIII (pp. 89-113). Santander: SEIEM.

Bressan, A., Bogisic, B. & Crego, K. (2000). Razones para enseñar Geometría en la Educación Básica. Mirar, construir, decir y pensar… Buenos Aires: Ediciones Novedades Educativas.

Brown, T., Mann, B., Ryder, N., … Amodei, D. (2020). Language models are few-shot learners. In: H. Larochelle, M. Ranzato, R. Hadsell, M.F. Balcan and H. Lin (Edit.) Proceedings of the 34th International Conference on Neural Information Processing Systems (NIPS’20) (pp. 1877-1901). Curran Associates Inc.: NY.

Bubeck, S., Chandrasekaran, V., Eldan, R., Gehrke, J., Horvitz, E., Kamar, E., Lee, P., Lee, Y. T., Li, Y., Lundberg, S., Nori, H., Palangi, H., Ribeiro, M. T., and Zhang, Y. (2023). Sparks of artificial general intelligence: Early experiments with GPT-4. CoRR abs/2303.12712.

Camargo, L. & Acosta, M. (2012). La geometría, su enseñanza. Tecné, Episteme y Didaxis (TED), 32, 4-8.

Camacho Machín, M., De La Fuente Martínez, C., Gámez Ruiz, J. L., González López, Ma. J., Jara Martínez, P., Marín del Moral, A., Ortega del Rincón, T., Recio Muñiz, T. J., Rico Romero, L. & Ruiz Hidalgo, J. F. (2015). Construcción de modelos matemáticos y resolución de problemas. Secretaría General Técnica: España.

Chavil, D. & Romero, I. & Rodríguez, J. (2020). Introducción al concepto de fractal en enseñanza secundaria usando realidad virtual inmersiva. Desde el Sur, 12(2), 615-629.

Chowdhery, A., Narang, S., Devlin, J., Bosma, M., Mishra, G., Roberts, A.…, and Fiedel, N. (2022). PaLM: Scaling language modeling with pathways. Journal of Machine Learning Research, 24(240), 1-113.

Corica, A. & Marin, E. (2014). Actividad de estudio e investigación para la enseñanza de nociones de geometría. Sociedad Canaria “Isaac Newton” de Profesores de Matemática; Números, 85(3), 91-114.

Corica, A., Parra, V., Sureda, P., Schiaffino, S., Godoy, D (2024). Fractal de Koch: análisis de respuestas de IA generativa y un profesor de matemática. Revista Iberoamericana de Tecnología en Educación y Educación en Tecnología (TE&ET). 89-99 http://doi:10.24215/18509959.37.e8.

Gao, J., Pi, R., Zhang, J., Ye, J., Zhong, W., Wang, Y., Hong, L., Han, J., Xu, H., Li, Z., Kong, L. (2023). G-LLaVA: Solving geometric problem with multi-modal large language mode. arXiv:2312.11370

Fauring, P., Gutierrez, F. (2020). Olimpiadas de Mayo - XVII a XXIV. Buenos Aires, Argentina: Red Olímpica.

Fernández-Nieto, E. L. (2018). La geometría para la vida y su enseñanza. AiBi Revista De Investigación, Administración E Ingeniería, 6(1), 33-61. https://doi.org/10.15649/2346030X.475

Flores-Vivar, J., García-Peñalvo, F. (2023) Reflections on the ethics, potential, and challenges of artificial intelligence in the framework of quality education (SDG4), Comunicar, 74, 37-47.

Isaza G. (2002) Análisis, Interpretación y Construcción Teórica en la Investigación Cualitativa. Centro de educación a distancia. Universidad de Manizales.

Itzcovich, H. (2005). Iniciación al estudio didáctico de la geometría: De las construcciones a las demostraciones. Buenos Aires: libros del Zorzal.

Martin, N., Parra, V., Fanaro, M. (2019). Enseñanza de fractales a partir de preguntas: descripción de una experiencia en un curso de matemática del último año de la escuela secundaria. Épsilon - Revista de Educación Matemática, 102, 25-34.

McCoy, R. T., Yao, S., Friedman, D., Hardy, M. y Griffiths, T. L. (2023). Embers of autoregression: Understanding large language models through the problem they are trained to solve. CoRR abs/2309.13638.

OpenAI: GPT-4 technical report. (2023). ArXiv, abs/2303.08774

Parra, V., Sureda, P., Corica, A., Schiaffino, S., Godoy, D. (2024). Can generative AI solve Geometry problems? Strengths and weaknesses of LLMs for geometric reasoning in Spanish (2024). International Journal of Interactive Multimedia and Artificial Intelligence, 8(5), 65-74.

Pavlick, E. (2023). Symbols and grounding in large language models. Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 381(2251), p. 20220041, https://doi.org/10.1098/rsta.2022.0041

Pérez, S.; Guillén, G. (2007). Estudio exploratorio sobre creencias y concepciones de profesores de secundaria en relación con la geometría y su enseñanza. En P. Bolea; M. Camacho y P. Flores (Eds), Actas del XI Simposio de la Sociedad Española de Investigación en Educación Matemática (SEIEM) (pp. 295-305). Universidad de La Laguna. Tenerife.

Sureda, P., Corica, A. R., & Parra, V. (2023). Inteligencia Artificial Generativa en la formación de Profesores de Matemática en servicio. Unión - Revista Iberoamericana de Educación Matemática, 19(69). 1-15.

Published

2024-10-18

How to Cite

Corica, A. R., Sureda, P., Parra, V. ., Schiaffino, S., & Godoy, D. . (2024). Education and artificial intelligence: chatbots and mathematics teachers performance at solving geometry problems. Areté, Doctorate in Education Digital Journal, 10(ee), 119–139. Retrieved from http://saber.ucv.ve/ojs/index.php/rev_arete/article/view/29456