1980년대에 종합대학 내에서 사범대학의 정체성이 자주 거론됨에 따라 학문적인 정체성에 대한 문제 제기가 이루어졌다. 1985년 당시 서울대학교 사범대학의 교무부학장으로 재직하였던 김연식 교수(초대 회장, 서울대학교 명예교수)의 노력으로 서울대학교 사범대학 내에 박사과정 설치가 승인되었고, 1986년부터 박사과정 신입생 모집이 이루어졌다. 이에 따라 서울대학교 수학교육과 박사과정의 신입생 모집은 1987년부터 이루어졌으며, 이를 계기로 한국교원대학교에서도 1988년부터 박사과정의 신입생 모집이 이루어졌다. 이렇듯 박사과정의 설치는 수학교육학이라는 학문적 정체성에 대한 담론을 필요로 하였으며, 이를 전문적으로 연구할 수 있는 학회의 필요성을 제기하였다. 다른 한편으로 이 무렵 연세대학교 수학과의 김치영 교수가 주도적으로 활동했던 한국수학교육연구회에서 우정호 교수(제2대 회장, 서울대학교 명예교수)에게 학회의 정신을 이어달라는 요청도 새로운 수학교육 학회의 필요성에 대한 계기를 제공하였다.

수학교육 학회의 필요성에 대한 관심은 수학교육학 세미나 그룹으로 이어지게 되었다. 1989년 8월 19일 수학교육학 세미나 그룹 주관으로 제1회 수학교육학 집중세미나가 개최되었는데, 위에서 언급한 창립 배경에 따른 최초의 시도로 볼 수 있다. 제1회부터 제4회 세미나까지는 한국교육개발원 수학교육연구실 중심으로 이루어졌으며, 세미나 그룹의 활동은 1991년 8월 2일 부산교육대학교에서 개최되었던 제9회 수학교육학 집중세미나까지 이어졌다.

당시부터 현재까지 대한수학교육학회에서는 수학교육학 집중세미나를 개최해 오고 있으며, 첫 세미나로부터 정확히 30년 뒤에 이루어진 2019년 8월 9일 한국교육과정평가원에서 개최되었던 수학교육학 집중세미나는 제79회 세미나였다.

수학교육학 세미나 그룹의 준비 기간을 거쳐서 1991년 11월 2일에 대한수학교육학회가 창립되어 초대 회장으로 서울대학교 김연식 교수(現 서울대학교 명예교수)가 추대되었다. 창립 당시 사무실은 서울대학교 사범대학 수학교육과 사무실 내에 두었다. 학회가 창립된 후에 첫 번째로 개최된 행사는 1991년 11월 25일부터 29일까지 서울대학교 호암교수회관에서 개최되었던 ‘한미 수학교육학 비교분석 세미나’였다. 1991년 12월 30일에 대한수학교육학회 최초의 학술지인 『대한수학교육학회 논문집』이 창간되었으며, 1992년 7월 28일, 제1회 수학교육학 연구논문 발표대회가 대구교육대학교에서 개최되었다.

이후 1993년 6월 5일에 제2회 수학교육학 연구논문 발표대회가 서울대학교에서, 같은 해 10월 23일의 제3회 수학교육학 연구논문 발표대회가 이화여자대학교에서 개최된 이후로, 1년에 2회씩 학술대회를 상반기와 하반기로 나누어 한 번은 수도권, 한 번은 지방에서 개최하는 전통이 생겨나게 되었다. 또한 1998년 11월 7일부터 제2대 회장으로 서울대학교 우정호 교수(現 서울대학교 명예교수)가 추대되었다.

학회의 전반적인 활동이 활성화되면서 연구자와 학술 논문의 수가 늘어나게 되었고, 이를 반영하여 1999년 3월 31일에 학회의 두 번째 학술지인 『학교수학』을 창간하였다. 이후로 2001년까지는 매년 3월과 9월 연 2회씩 발행하다가, 2002년부터 현재까지는 연 4회(3월, 6월, 9월, 12월)를 발행해 오고 있으며, 2005년 한국연구재단의 등재학술지(KCI)로 선정되었다. 또한 『대한수학교육학회 논문집』이라는 학술지명은 1999년 7월 31일부터 『수학교육학연구』로 이름이 바뀌어 현재까지 이어져 오고 있다. 1991년부터 2001년까지 연 2회(1998년에는 1회)씩 발행하다가, 2002년부터 현재까지는 연 4회(2월, 5월, 8월, 11월)를 발행하고 있으며, 2005년 한국연구재단의 등재학술지(KCI)로 선정되었다.

2005년 6월 28일, 제3대 김흥기 회장(現 단국대학교 명예교수)의 노력으로 학회가 교육부로부터 사단법인으로 승인을 받음으로써 학회 발전의 중요한 계기를 마련하게 되었다. 이 무렵 학회 사무실도 서울대학교 사범대학 수학교육과 사무실 내에서 현재의 사무실인 서울특별시 용산구 한강대로 115 대우디오빌 1305호로 독립하게 되었다. 학회가 독립된 사무실을 갖춘 사단법인이 되면서 학회의 업무 여건이 전반적으로 개선되었으며, 각종 사료나 자료의 보관 및 관리 등의 장점을 바탕으로, 역사와 전통을 지닌 우리나라 대표 수학교육 학회로 발돋움할 수 있었다.

제6대 강문봉 회장(現 경인교육대학교 교수) 시기에 두 가지의 중요한 이슈가 생겨났는데, 하나는 수학교육학 연보(yearbook)의 발행이고, 다른 하나는 한국수학교육학회와의 연합학술대회 개최이다.

수학교육학 연보는 매년 수학교육학의 특별한 이슈를 한 가지 선정하여 국내 연구자들이 원고를 작성하여 책자로 작성하는 방식이다. 2013년 학회 최초의 연보인 『수학교육학 연구 방법』이 발간되었으며, 이후로 매년 연보를 발행하게 되었다.

또한 제4대 강옥기 회장(前 성균관대학교 교수) 시기에 대한수학회 등과 함께 연합학술대회를 개최하기도 하였으나, 이후에는 수학교육 학회인 대한수학교육학회와 한국수학교육학회가 2013부터 공동으로 주최하는 연합학술대회를 2년마다 개최하기로 결정하였다.

사단법인이 된 이후, 학회에서는 교육부나 한국과학창의재단의 연구 과제를 수행하면서 다양한 정책연구를 수행해왔다. 그러나 수학교육학 연구자들의 목소리를 수학교육 정책 수립 과정에서 보다 충실히 반영하기 위해, 학회에서는 자체적으로 재원을 마련하여 정책연구를 수행하기 시작하였다. 특히, 2015 개정 수학과 교육과정이 고시된 이후 차기 교육과정 개정과 정책 수립 과정에서 학회의 독자적인 역할을 모색하기 위해 2016년 제7대 장경윤 회장(現 건국대학교 명예교수) 시기에 『수학과 중등교육과정 국제비교 연구』 보고서가 발간되었다.

앞서 밝혔던 것처럼 학회 최초의 국제 학술 행사는 1991년 11월 25일부터 29일까지 서울대학교 호암교수회관에서 개최되었던 ‘한미 수학교육학 비교분석 세미나’였다. 2000년대로 접어들면서 국내 수학교육학 전공자들은 국제수학교육심리학회(PME), 국제수학교육학술대회(ICME) 등 국제학술대회 참여 및 역할 제고를 위한 노력에 많은 관심을 갖게 되었다.

이러한 노력의 첫째 결실로 이루어진 것이 2007년 7월 8일부터 13일까지 서울대학교에서 개최되었던 제31차 PME 행사이다. 이 행사의 국내 조직위원장은 당시 명예회장이었던 서울대학교 우정호 교수(現 서울대학교 명예교수)가 담당하였으며, PME의 국제 조직위원회 위원으로 한국교원대학교 류희찬 교수(제5대 회장, 前 한국교원대학교 총장)가 대회 유치에 많은 역할을 하였다.

제9대 송상헌 회장(現 경인교육대학교 교수) 시기에는 해외 수학교육 연구자와의 교류를 강화하기 위해 2020년 8월, Eric Knuth 교수(University of Texas at Austin)를 공동 편집위원장으로 초빙하여 특별호를 발간하였다. 또한 영문 홈페이지를 개설하고 SCOPUS 등 학술논문 인용색인에 등재하고자 노력하고 있다.