Article en référence: https://huggingface.co/perplexity-ai/r1-1776

Récapitulatif factuel

PerplexityAI vient de lancer R1-1776, une version modifiée du modèle DeepSeek-R1. Cette adaptation vise à supprimer les mécanismes de censure chinois tout en préservant les capacités de raisonnement du modèle original. Le modèle est disponible sur Hugging Face et peut être utilisé via l’API Sonar.

Les tests de performance montrent que le modèle maintient des capacités similaires à l’original tout en répondant différemment aux questions sensibles. Des versions optimisées (GGUF) ont été créées pour permettre une utilisation locale avec différents niveaux de compression, allant de 2 bits à 16 bits, offrant un équilibre entre performance et utilisation des ressources.

Point de vue neutre

La modification d’un modèle pour contourner certaines restrictions soulève des questions sur la nature même de la censure. Remplacer un biais par un autre ne résout pas le problème fondamental. Les modèles d’IA reflètent inévitablement les valeurs et perspectives de leurs créateurs.

La vraie question n’est peut-être pas tant la suppression de la censure que la transparence sur les biais inhérents à chaque modèle. Un modèle parfaitement neutre est probablement impossible, mais la reconnaissance explicite des biais permet une utilisation plus éclairée.

Exemple

Imaginez un restaurant qui propose deux menus : un “traditionnel” et un “moderne”. Le chef du “traditionnel” refuse catégoriquement d’utiliser certains ingrédients, tandis que le chef du “moderne” les utilise tous mais avec ses propres préférences marquées. Les deux plats sont savoureux, mais différents - aucun n’est véritablement “neutre”.

C’est un peu comme si on remplaçait un arbitre qui siffle toujours en faveur d’une équipe par un autre qui siffle différemment, mais avec ses propres préférences. Le match est-il vraiment plus équitable?

Point de vue optimiste

Cette évolution représente une avancée significative vers des modèles d’IA plus transparents et moins restrictifs. La capacité de modifier et d’adapter les modèles existants ouvre la voie à une personnalisation accrue répondant aux besoins spécifiques des utilisateurs.

La communauté open source démontre sa capacité à améliorer et adapter rapidement les modèles existants. Cette flexibilité pourrait mener à une nouvelle génération d’IA plus ouvertes et adaptables, où les utilisateurs peuvent choisir le niveau de restriction qui leur convient.

Point de vue pessimiste

Cette modification pourrait créer un précédent dangereux où chaque groupe d’intérêt développe sa propre version “non censurée” d’un modèle, conduisant à une fragmentation et une polarisation accrues. Au lieu d’avoir des modèles objectifs, nous risquons d’avoir des chambres d’écho algorithmiques.

De plus, la suppression des garde-fous existants, même imparfaits, pourrait ouvrir la porte à des utilisations malveillantes. Sans un cadre éthique clair, ces modifications pourraient conduire à une course vers le bas en termes de sécurité et de responsabilité.