J'ai mis un Hailo 8 dans un ordinateur de poche et j'ai arrêté de payer pour l'inférence

DEV - 15/07
Cloud AI est un piège d'abonnement. J'ai construit une sortie qui tient dans la poche de ma veste et fonctionne à 3...

Cloud AI est un piège d'abonnement. J'ai construit une sortie qui tient dans la poche de ma veste et fonctionne à 3 watts.

J'en avais marre de payer un loyer pour réfléchir.

Chaque démo sympa se termine désormais de la même manière. Inscrivez-vous pour une clé API. Ajoutez votre carte de crédit. Regardez vos jetons s'évaporer pendant que quelqu'un d'autre enregistre vos invites. Je voulais un appareil capable de voir, de comprendre et de raisonner sans téléphoner à un centre de données de l'Oregon. J'ai donc coincé un accélérateur 26 TOPS AI dans un ordinateur de poche et j'ai coupé le cordon pour de bon.

C'est comme ça que je l'ai fait, ce qui s'est cassé et pourquoi vous devriez probablement le faire aussi.

La taxe d'inférence tue vos projets

Nous avons normalisé quelque chose de fou. Nous avons pris les tâches informatiques les plus personnelles imaginables, comme regarder vos propres photos, transcrire vos propres notes vocales, détecter des objets dans votre propre jardin, et avons décidé que la meilleure façon de le faire était de les diffuser en streaming vers une entreprise.

Il ne s’agit pas seulement d’argent, même si l’argent est offensant. Cinq dollars ici pour la vision, vingt dollars là pour les intégrations, cinquante autres lorsque votre projet parallèle gagne un peu de terrain. C'est la fragilité. Votre robot cesse de fonctionner lorsque le WiFi le fait. Votre outil de terrain cesse de fonctionner lorsque le fournisseur modifie ses prix. Votre application axée sur la confidentialité n'est pas du tout privée car elle envoie chaque image à un point final que vous ne contrôlez pas.

Je construisais un outil de reconnaissance de poche pour le travail matériel. Il fallait une détection d'objets en temps réel, un flou de plaque d'immatriculation et, plus tard, une réponse visuelle locale aux question...
[Courte citation de 8% de l'article original]

Loading...