Mobilde yerel çalışacak AI kurulumu nasıl yapılır?

Android telefonumda sansürsüz/sansürlü gömülü bir AI kullanmak istiyorum. TensorFlow ya da PyTorch gibi githubda gördüğüm bazı projeleri okudum ama nasıl yapıcağımı çok iyi anladığımı sanmıyorum.

İşin özü, sadece telefonumda çalışacak sansürsüz bir yapar zeka nasıl kurabilirim?

Donanım bilgisi gerekiyor ise;

  • Bellek: 12 GB (12+8)
  • İşlemci: Snapdragon 7+ Gen 2
  • Depolama: 256 GB

Merhabalar,

Forumda bunun ile alakalı bir gönderi oluşturulmuştu incelemenizi öneririm.

Mlc ai var bu gönderide bahsetmiştim.

1 Like

Deneyeceğim. Teşekkür ederim. İçerisindeki Llama 3 8B modelini indiriyorum. Hangisi sansürlü hangisi sansürsüz bilmiyorum ama görücez bakalım ilk defa telefonda AI çalıştırıcam. Ne performans vericek acaba.

1 Like

termux üzerinden ollama kurmayı deneyebilirsin

tek dosyada çalıştıran bi uygulama var muhtemelen termux ile çalıştırılabilir

ama cpu mimarisini bilmek gerek biraz kurcalanırsa bişeyler yapabilirsin
şimdiden başarılar

1 Like