Clearport: Telefonunuzda Çalışan Yerel AI Sohbet

Clearport, telefonunun içinde bir dil modelini çalıştıran açık kaynak bir sohbet uygulaması. Hacktoberfest AI Challenge'a sunulan bu proje, "Ghost in the Machine" temasını tam anlamıyla ele alıyor: model, cihazın içinde yaşayan ve soruları yanıtlayan bir ruh gibi davranıyor.

Proje iki bileşenden oluşuyor. Flutter ile yazılmış Android uygulaması, cihaza kaydedilen konuşmaları, canlı model durumu göstergesi ve dinamik model seçiciyi yönetiyor. Termux CLI kısmı (clearport) ise llama-server'ı 127.0.0.1:8080 adresinde başlatıyor ve arka planda çalışırken telefonun uyku moduna girmesini engelleyen bir wake lock tutuyor. Hiçbir model ağırlığı paketlenmemiş, hesap gerekmemiş.

Güvenlik açısından önemli bir nokta: uygulama yalnızca ayarlardan belirttiğin adrese HTTP isteği gönderiyor, varsayılan olarak loopback (127.0.0.1:8080). Başka hiçbir yere veri gitmez. Sistem istemcisi, model ID'si, API anahtarı, sıcaklık ayarları tamamen senin kontrolünde.

Termux'ta CLI modda da çalışabiliyor; Flutter uygulamasını açmadan terminal üzerinden doğrudan sohbet edebilirsin. Ağırlıklı hesaplamalar telefonun CPU/GPU'sunda gerçekleşiyor, bu da internet bağlantısı olmayan ortamlarda yardımcı oluyor.

Bu tür yerel çözümler, gizlilik isteyenler ve offline çalışması gereken senaryo (araştırma, yazılım geliştirme, eğitim) için pratik. Telefon donanımı ilerledikçe, böyle uygulamalar daha kullanışlı hale geliyor.