Quelle: Augustinas Malinauskas Ollama installiert auf eurem Mac ein lokales (Offline-/Open-Source-)LLM – von Mistral, über Llama bis DeepSeek. Über ngrok wird die lokale Adresse („localhost:11434“) außerhalb des eigenen Netzwerks erreichbar. Hinterlegt ihr die euch temporär zugeteilte „Forwarding URL“ in der App-Store-App Enchanted (GitHub), benutzt ihr das iPhone um eure Fragen an die lokalen Sprachmodelle auszuführen undweiterlesen

Private LLM bringt dieses Large Language Model (LLM) für eine Offline-Nutzung auf die letzten iPhone-Generationen. Für euch ausprobiert: im Flugzeug von Hamburg zurück nach Helsinki. Die KI-Anwendung lädt nicht augenblicklich und das Telefon wird handwarm. Die macOS-Version der Universal-App unterstützt bereits eine Auswahl aus verschiedenen Modellen, von denen einige zukünftig auch auf iPhones und iPadsweiterlesen