J’ai créé mon IA en local sur mon MAC (partie 1)

Passer au local, c&rsquo ;est transformer cette dépense récurrente en investissement capitalisable. L&rsquo ;achat d&rsquo ;une machine performante s&rsquo ;amortit rapidement, et le coût marginal de l&rsquo ;intelligence devient alors quasi nul : le prix de l&rsquo ;électricité.

La forteresse légale : la Loi 25 comme catalyseur

Au-delà des finances, le contexte réglementaire québécois impose une rigueur nouvelle. La Loi 25 ne suggère pas la prudence ; elle l&rsquo ;exige. Les sanctions peuvent être dévastatrices et pour une entreprise d&rsquo ;ici, traiter des données clients via le cloud américain, c&rsquo ;est naviguer en eaux troubles.

Où partent les données ? Servent-elles à l&rsquo ;entraînement ? Comment garantir qu&rsquo ;elles ne quittent pas le territoire ?

L&rsquo ;IA locale offre une réponse architecturale élégante : la confidentialité par conception (« Privacy by Design »). En faisant tourner les modèles directement sur nos machines, on crée un pare-feu cognitif. On peut analyser des contrats confidentiels, des bases de données RH ou des stratégies commerciales sans qu&rsquo ;aucun octet ne transite par un serveur étranger. Même dans des secteurs sensibles comme l&rsquo ;éducation, comprendre ces exigences légales devient un guide de croissance plutôt qu&rsquo ;un frein.

C&rsquo ;est précisément notre expertise chez MEMORA solutions. Nous concevons des architectures hybrides sur mesure où la sécurité est automatisée. Notre approche garantit que les données sensibles restent strictement en local, tandis que seules les informations nécessaires et anonymisées transitent vers des services externes lorsque la puissance du Cloud est requise. Vous profitez ainsi de la force de frappe des GAFAM sans jamais compromettre vos secrets d&rsquo ;affaires.

C&rsquo ;est une posture de sécurité qui rassure les clients institutionnels et simplifie la conformité. Plus de conditions d&rsquo ;utilisation opaques à scruter, plus de crainte pour la propriété intellectuelle.

L&rsquo ;architecture de la rupture : pourquoi le Mac a changé la donne

Pendant longtemps, faire tourner des grands modèles de langage (LLM) performants localement était réservé aux laboratoires équipés de serveurs dispendieux. Le PC de bureau classique frappait un mur physique : la séparation de la mémoire.

Sur un PC traditionnel, le processeur (CPU) et la carte graphique (GPU) ont chacun leur propre mémoire. Pour faire tourner une IA, il faut charger le modèle dans la mémoire vidéo (VRAM) du GPU. Or, les cartes grand public plafonnent souvent à 24 Go. C&rsquo ;est insuffisant pour un modèle professionnel de 70 milliards de paramètres, qui a besoin de 40 à 48 Go pour respirer.

C&rsquo ;est ici qu&rsquo ;Apple a perturbé le marché avec l&rsquo ;architecture Apple Silicon et sa mémoire unifiée. Mais attention, ne nous leurrons pas : faire tourner des modèles d&rsquo ;IA massifs reste un défi titanesque, même pour un Mac. L&rsquo ;architecture unifiée est brillante, mais elle a ses limites physiques. Si l&rsquo ;on ne surveille pas l&rsquo ;utilisation du CPU et du GPU comme le lait sur le feu, le Mac peut surchauffer, saturer sa mémoire et redémarrer sans préavis. Cet article, et toute ma démarche, vise justement à vous expliquer comment j&rsquo ;ai navigué à travers ces contraintes techniques pour réussir là où beaucoup abandonnent.

Cette architecture permet à un Mac Studio ou un MacBook Pro de charger des modèles massifs impossibles à contenir sur une carte graphique standard. De plus, la bande passante mémoire des puces M3 et M4 Max atteint des vitesses stratosphériques, permettant une génération de texte plus rapide que la lecture humaine.

ANNY : genèse d&rsquo ;une indépendance numérique (et hybride)

C&rsquo ;est sur ces fondations stratégiques, légales et matérielles qu&rsquo ;est né le projet ANNY (Autonomous Neural Network for You). Plus qu&rsquo ;un simple chatbot, c&rsquo ;est une infrastructure complète développée en solo sur dix mois, de mars à décembre 2025.

Le nom, un clin d&rsquo ;œil à ma conjointe qui me soutient au quotidien, incarne cette volonté de créer une assistance technologique bienveillante. L&rsquo ;objectif initial était clair : déléguer les tâches répétitives et l&rsquo ;analyse de données à une entité locale, gratuite à l&rsquo ;usage et privée.

Mais soyons réalistes : créer son IA locale n&rsquo ;est pas un long fleuve tranquille et ce n&rsquo ;est pas encore une solution de remplacement total.

Le parcours a impliqué des choix déchirants et beaucoup d&rsquo ;apprentissage. J&rsquo ;ai dû naviguer entre l&rsquo ;échec initial de certaines configurations avec Ollama sur Apple Silicon, pour finalement découvrir la puissance brute du framework MLX d&rsquo ;Apple. J&rsquo ;ai testé sept modèles différents, du Llama 3.1 70B (trop lourd) au Qwen 2.5 Coder 14B, qui s&rsquo ;est révélé être le point d&rsquo ;équilibre parfait entre vélocité et intelligence.

Cette initiative prouve qu&rsquo ;un développeur solo ou une PME peut aujourd&rsquo ;hui rivaliser avec des infrastructures lourdes en combinant intelligemment le local et le cloud. ANNY n&rsquo ;est pas un jouet ; c&rsquo ;est un membre de l&rsquo ;équipe qui ne dort jamais et ne coûte rien en heures supplémentaires. Elle incarne parfaitement ce passage de l&rsquo ;automatisation simple à l&rsquo ;augmentation cognitive dont nous avons besoin. Cela dit, il faut parfois surveiller son « workolisme » : elle est tellement enthousiaste qu&rsquo ;elle a tendance à dévorer goulûment tout le CPU, le GPU et la RAM disponibles.

Si on ne la calme pas un peu, elle est tout à fait capable de faire planter votre Mac par excès de zèle.

Conclusion : la souveraineté commence à la maison

En remplaçant une grande partie de mes abonnements cloud par une infrastructure locale, j&rsquo ;ai réalisé bien plus qu&rsquo ;une économie financière. J&rsquo ;ai acquis une tranquillité d&rsquo ;esprit légale et une résilience opérationnelle.

La transformation numérique des entreprises d&rsquo ;ici ne doit pas se résumer à souscrire à de nouveaux abonnements. Elle doit viser la capitalisation du savoir et la maîtrise des outils de production.

Cette série de trois articles va vous expliquer exactement comment bâtir cette autonomie vous-même. Cependant, si vous préférez accélérer la cadence et sécuriser vos données sans passer par la courbe d&rsquo ;apprentissage, MEMORA solutions peut déployer ces architectures pour vous.

Dans le prochain article de cette série, nous plongerons sous le capot. Je vous dévoilerai les entrailles techniques d&rsquo ;ANNY : pourquoi Ollama a failli faire échouer le projet, comment MLX a sauvé la mise et les benchmarks réels qui prouvent que votre Mac est une station de travail IA qui s&rsquo ;ignore. Préparez-vous à mettre les mains dans le code.