ztevenreal
Las herramientas de IA en límite se están volviendo ridículamente buenas, pero tan pronto como comience a usarlas, se dará cuenta de que sus costos de suscripción se suman rápidamente. Las versiones gratuitas tienen ataque circunscrito y, la mayoría de las veces, solo le dan ataque a modelos inferiores.
Cuando construí mi AI de codificación nave para VS Código, pensé que había terminado de fertilizar el copiloto de GitHub. Sin confiscación, entre las preocupaciones de privacidad y los costos de suscripción ridículamente altos, me di cuenta de que ya no necesito fertilizar por IA si puedo ejecutar modelos localmente.
Los modelos de IA locales se están volviendo suficiente buenos
Herramientas gratuitas que rivalizan con servicios de IA de renombre
El paisaje de IA de código franco ha explotado con algunos modelos en realidad impresionantes. Si acertadamente no hay una decisión única como GPT-5, hay modelos como Lumbre, Mistral, Gemma y Deep Speeek que son increíblemente buenos en tareas específicas. Y cedido que está ejecutando estos modelos localmente, puede nominar qué maniquí desea para una tarea específica sin la molestia.
Estos modelos asimismo se acumulan suficiente acertadamente contra sus homólogos pagados. En muchos casos, un maniquí de código franco acertadamente estimado que se ejecuta localmente puede coincidir con el rendimiento de una IA basada en la web como ChatGPT o GitHub Copilot para tareas específicas.
La variedad es asombrosa, lo que significa que tendrás cientos, si no más, modelos de IA para esparcirse. Solo tenga en cuenta que cuanto veterano sea el número de parámetros, mayores serán los requisitos de hardware de un maniquí AI.
Como regla normal, necesita al menos 8 GB de RAM apto para ejecutar los modelos 7B, 16 GB para modelos 13B y 32 GB para modelos 33B. Igualmente ayuda tener un montón de espacio en disco, ya que algunos de estos modelos de IA pueden ser suficiente grandes.
Puede ejecutar modelos AI localmente en casi cualquier máquina moderna. Los modelos con recuentos de parámetros más bajos no podrán manejar tareas más complejas, pero serán más rápidos de usar. La secreto es nominar el maniquí adecuado para sus requisitos.
Ejecutando la IA nave con LM Studio
Una aplicación simple que hace que la IA nave sea realizable
Ejecutar estos modelos asimismo es sorprendentemente realizable. Puede disfrutar de los beneficios de un LLM nave con muchas aplicaciones, incluidas LM Studio y Ollama.
Estas herramientas le permiten penetrar a una amplia tono de modelos de IA de código franco que puede descargar y ejecutar según sus requisitos. Prefiero LM Studio, ya que viene con una interfaz GUI suficiente realizable de usar, pero no dude en probar otras opciones para encontrar lo que funciona mejor para usted.
Instalar y configurar LM Studio con un maniquí AI es un proceso suficiente realizable. Descargar LM Studio desde el sitio web oficial y ejecute el instalador. Siga estos pasos posteriormente de ejecutar LM Studio por primera vez:
-
Es posible que se le solicite que pase por un asistente de configuración. Esto se puede eliminar haciendo clic en el mediocre Saltar clavija en la parte superior derecha.
-
Una vez que se carga la interfaz principal, LM Studio debe comenzar a descargar automáticamente cualquier compensador o aggiornamento que necesita. Espere a que estos terminen antiguamente de continuar.
-
Haga clic en el icono de lupa para cascar el Descubrir pestaña y exploración el maniquí que desea descargar. Haga clic en el verde Descargar Retoño en la parte inferior izquierda para continuar.
-
Una vez que el maniquí haya terminado de descargar, dirígete al Charlar Sección y haga clic en el menú desplegable en la parte superior de la pantalla para cargar su maniquí descargado.
En este punto, debería poder comenzar a chatear con el maniquí AI descargado. Dependiendo del maniquí que esté utilizando, es posible que asimismo pueda descifrar y analizar archivos. LM Studio marca claramente qué maniquí tiene qué capacidades, para que pueda encontrar modelos con lección de imágenes o generaciones de capacidades asimismo.
Finalmente puedo usar IA para el trabajo sensible
Mantenga sus datos privados
Ya apilé chatbots arbitrario, así que nunca suscripción un centavo por la IA, pero estas todavía eran herramientas web que entrenaban en mis datos. Lo que significa que usar IA para el trabajo sensible como la codificación estaba fuera de la imagen. Encima, la mayoría de los chatbots de IA tienen políticas de uso que le prohíben usar la producción de la IA con fines comerciales hasta que obtenga la suscripción adecuada.
Ejecutar ai localmente libera de tales restricciones. Las conversaciones con mi chatbot de IA nunca dejan mi PC, lo que significa que puedo integrar cómodamente la IA en proyectos que nunca hubiera tenido antiguamente. No hay compendio de datos, ni capacitación en sus aportes y no hay supervisión corporativa de su proceso creativo. Hay un chatbot de IA que protege su privacidad, pero no es lo mismo que ejecutar su IA localmente.
No se alcahuetería solo de privacidad de datos siquiera. Ejecutar modelos de IA localmente me da osadía creativa sin preocuparme por las políticas de retención de datos o el mal uso potencial. Puedo usar IA para proyectos de trabajo confidenciales, escritura personal y cualquier idea empírico sin preocupación. Para los profesionales que manejan información confidencial, el aspecto de privacidad por sí solo justifica el interruptor.
Liberarse de las suscripciones de IA
Posee tu configuración de IA
Si está cansado de fertilizar suscripciones mensuales para herramientas de IA, intente descargar LM Studio o cualquiera de sus alternativas y ocurrir una tarde jugando con modelos de IA. El Mistral 7B Instruct y Gemma 3 son buenos modelos para comenzar.
No necesita ir a pavo frío con todas sus suscripciones de inmediato. Mantenga los importantes mientras experimenta, luego reduzca gradualmente a medida que encuentre modelos locales que satisfagan sus micción. Pude detener casi todas mis suscripciones en el primer mes.
La IA nave tiene beneficios que las herramientas en límite no, y en mi opinión, vale la pena la compensación de perder poco de rendimiento o inteligencia. No pagaré las suscripciones de IA porque no tengo que hacerlo. Siquiera tú.
