Stable diffusion san覺r覺m gpu mu kullanm覺yor?

arkadalar stable diffusionla ura覺yorken g繹rev y繹neticisinden kontrol etmek istedim kullan覺mlar覺m覺 ve rtx 3050 kart覺m覺n sadece vram k覺sm覺 aktif g繹z羹k羹yor ve kullan覺m y羹zdesi 0 yaz覺yor. bunun sebebi nedir?

Stable Diffuson覺 nas覺l kurdun? Muhtemelen kurma 癟al覺t覺rma eklinde bir sorun var.

Uzun zaman oldu kural覺 ama hat覺rlad覺覺m kadar覺yla git 羹zerinden terminalle kurmutum.

normal bir durum, inference modda t羹m s羹re癟 gpu corelar覺n覺 kullanm覺yor. VRAMde modelin a覺rl覺klar覺 y羹kl羹 duruyor ve forward pass ilemi olaca覺 zaman cuda 癟ekirdekleri ilem yapmaya bal覺yor.

Yaln覺z 4GB vram olduk癟a az, kulland覺覺n覺z model ve konfig羹rasyon ne bilmiyorum fakat son nvidia driverlar覺ndan birinde VRAM offload 繹zellii geldi bu da GPUda 癟al覺an AI modellerini etkiliyor.

Ayn覺 sistem RAMinde olan swap sistemi gibi VRAM tamamen dolarsa, crash vermek yerine gereken ekstra k覺sm覺 RAMden kullan覺yor ama RAM 癟ok 癟ok daha yava olduu i癟in generate ilemi 6-7 dakika s羹rebiliyor tek bir g繹r羹nt羹 i癟in bile

1 Like