À l'aube du Moyen Âge, avec la mort de son Roi qui n'avait pas eu de fils, l'Angleterre est plongée dans l'obscurantisme. Peu après, près de Londres apparaît une épée enfichée dans une pierre en forme d'enclume associée à un message : "Celui qui pourra arracher cette épée de l'enclume scellée dans la pierre sera digne d'être Roi, souverain maître de l'Angleterre". Ainsi, le seul espoir devient que quelqu'un retire de l'enclume dans laquelle elle est fichée l'épée du roi le désignant comme nouveau souverain et mettant fin à cette période troublée.
Quelques années plus tard, dans les alentours de Londres, un jeune garçon de 11 ans surnommé Moustique, orphelin et employé chez sire Hector, rêve de devenir écuyer. Moustique est en réalité Arthur, fils du roi. Alors qu'il participe à une partie de chasse avec Kay, le fils de son seigneur, il empêche ce dernier de tuer une biche, mais doit retrouver la flèche perdue. C'est ainsi qu'il découvre la cabane de Merlin, un magicien qui vit avec Archimède, son hibou savant. Merlin décide qu'il sera le tuteur de Moustique et le raccompagne ainsi chez Hector. Il tente de convaincre Hector, le père adoptif de Moustique, que la magie existe en créant un blizzard, mais Hector n'accepte pas qu'il devienne le tuteur de son fils. C'est quand Merlin disparaît qu'Hector change d'avis.
Peu après, le Sire Pélimore, un ami d'Hector arrive au château et annonce que le tournoi annuel de chevalerie aura lieu le jour de l'an à Londres. Le vainqueur du concours sera proclamé roi du pays. Hector propose que Kay participe au tournoi, et lui demande de s'entraîner sérieusement, Moustique devant lui servir d'écuyer. De son côté, Merlin poursuit l'éducation d'Arthur tandis que ce dernier assiste également Kay dans son entraînement pour le tournoi de Londres. Afin de lui apprendre des notions, Merlin utilise la magie. Ainsi pour lui enseigner la physique, il transforme Moustique en poisson dans les douves du château. Mais un brochet l'attaque et Archimède sauve Arthur. Il raconte ses aventures à son père adoptif qui ne le croyant pas le punit à faire des travaux ménagers en cuisine. Merlin enchante les assiettes et couverts pour qu'ils se lavent seuls afin d'enseigner d'autres sujets à Arthur. Merlin transforme ensuite le jeune garçon en écureuil pour lui faire appréhender la notion de gravité. Mais à peine sauvé d'un loup affamé par un jeune écureuil femelle, Arthur doit faire face à ses avances amoureuses. Merlin qui avait aussi pris l'apparence d'un écureuil est également confronté à une plantureuse congénère éperdue d'amour. Une fois les femelles esquivées, Merlin et Arthur rentrent au château. Hector accuse Merlin d'avoir utilisé la magie noire sur la vaisselle. Comme Arthur prend la défense de Merlin, Hector le punit et nomme Hobbs écuyer de Kay. Pour sa troisième leçon, Merlin s'excuse et après une discussion sur l'avenir et les machines volantes, Merlin transforme Arthur en merle, Archimède se proposant de lui apprendre à voler. Mais un aigle prend Arthur pour proie. Arthur se réfugie dans une cabane en passant par la cheminée, celle de Madame Mim. Cette dangereuse sorcière utilise la triche et la magie. Elle s'attaque à Arthur et alors qu'elle l'a presque tué, Merlin intervient. Un duel de magiciens s'engage durant lequel Mim triche et Merlin use de son intelligence pour la contrer. Le combat se transforme en une suite de transformations principalement en animaux de plus en plus grands. Mim triche à nouveau et disparaît, brisant une règle du combat, puis se transforme en un animal légendaire, un dragon. Merlin pour la vaincre se transforme en un microbe et infecte Mim. Il démontre ainsi la supériorité de la réflexion à la force brute.
Le jour du tournoi, Hobbs a les oreillons et Hector le remplace par le jeune Arthur comme écuyer de Kay. Par contre cela contrarie Merlin, car Arthur semble préférer la guerre aux études. Arthur lui explique qu'étant orphelin, la meilleure position sociale qu'il puisse atteindre est celle d'écuyer. Contrarié, Merlin s'en va prendre des vacances au XXe siècle à Saint-Trop (Saint-Tropez). Hector, Kay, Pélimore, Arthur et Archimède se rendent à Londres pour le tournoi. Mais Arthur s'aperçoit qu'il a oublié l'épée de Kay dans une auberge désormais fermée en raison des joutes. Arthur part à la recherche d'une épée et grâce à Archimède en trouve une emprisonnée dans une enclume. Il retire l'épée de sa prison et court rejoindre Hector et Kay. Le Chevalier noir reconnaît l'épée royale et stoppe le tournoi. Il demande comment l'écuyer a pu délivrer l'épée de l'enclume. Hector remet l'épée dans son socle et différents hommes tentent de l'extraire, en vain. Arthur sous l'instance de Pélimore et du Chevalier noir, essaie à son tour et parvient à l'extraire à nouveau. Il est reconnu alors comme roi d'Angleterre. Merlin, quant à lui, reste près de son élève afin de l'aider dans sa tâche.
Disney achète les droits d'adaptation du livre de T. H. White dès 1939, soit l'année suivant sa publication. Mais en raison des nombreux projets du studio, l'intérêt de Walt pour cette histoire ne resurgit qu'en 1959 avec le succès de la comédie musicale Camelot (1960) dont la vedette était Julie Andrews, future Mary Poppins. L'équipe de Disney retient uniquement le premier tome de la tétralogie écrite par White. L'échec commercial de La Belle au bois dormant sorti en 1959, qui avait coûté plus de 6 millions de dollars, a surpris et choqué Walt Disney au point que des rumeurs circulèrent sur le fait que le studio allait stopper la production des longs métrages d'animation. Contre toute attente, Disney déclare que deux productions sont en cours : la première une histoire sur des chiens, Les 101 Dalmatiens (1961), la seconde sur l'enfance du roi Arthur, Merlin l'enchanteur. Ce projet doit coûter deux fois moins cher que La Belle au bois dormant. Walt annonce parallèlement la reprise de la réalisation de courts métrages stoppée en 1956 avec un recentrage de la production sur les longs métrages et la télévision, à raison d'un long métrage d'animation tous les deux ans, ce qu'il pense être la capacité d'absorption du public.
Le scénariste Bill Peet, intéressé par l'histoire de White dès la parution du livre, avait parlé de ce projet à Walt Disney, mais celui-ci n'était guère enthousiaste. Disney pense que le sujet est trop anglais, trop localisé et inadapté pour un dessin animé. Le scénariste décide donc d'y travailler seul et réalise l'intégralité de l'histoire sur des story-boards et développe brièvement chaque personnage. Il réalise un scénario de 51 pages qu'il présente le 2 octobre 1961.
Pendant ce temps, plusieurs animateurs, dont Wolfgang Reitherman, Ken Anderson, Milt Kahl, Frank Thomas, Ollie Johnston et Marc Davis, travaillent six mois sur un manuscrit, des storyboards et des dessins préparatoires pour Chantecler. Peet explique aux animateurs que le scénario de Chantecler est trop bizarre pour fonctionner et qu'il est impossible de rendre un coq sympathique. Lors de la présentation du projet à Walt Disney, celui-ci rejette le projet et préfère la proposition de Peet. Ce dernier aurait ainsi réussi à écarter le projet de Chantecler. Disney demande alors aux animateurs, presque contraints, de réaliser Merlin l'enchanteur d'après le travail de Peet. Il nomme alors Wolfgang Reitherman au poste de réalisateur, sa première participation seul à ce poste pour un long métrage. Ce vétéran des studios Disney, membre des Nine Old Men, réalisera quasiment tous les chefs-d'œuvre de la décennie des années 1960.
Toutefois, Disney n'est pas totalement emballé et une conséquence est la faible équipe engagée dans le projet, 38 artistes au crédit du film au lieu des 50 dans la précédente production Les 101 Dalmatiens. Malgré cette mise en production, Peet quitte le studio en 1964 lors de la production du Livre de la jungle (1967), pour se consacrer à la littérature enfantine. Disney confie à Vance Gerry et Ken Anderson le développement du style graphique.