Գտեք AI մոդելներ ձեր GPU հիշողության համար
Մուտքագրեք հասանելի GPU հիշողությունը՝ գտնելու լեզվական մոդելներ, որոնք տեղավորվում են մեկ GPU-ի վրա՝ ընտրված համատեքստի երկարությամբ: Գնահատումները ներառում են մոդելի կշիռները, KV քեշը մեկ հաջորդականության համար և գործարկման ժամանակի պահուստը:
AI մոդելի VRAM հաշվիչՄոդելներ, որոնք համապատասխանում են
Ոչ մի մոդել չի համապատասխանում այս պարամետրերին: Փորձեք ավելի կարճ համատեքստ, ավելի ցածր քաշի ճշգրտություն կամ ավելի մատչելի հիշողություն:
Ամենամեծ մոդելները նախ. Հիշողության իրական օգտագործումը կախված է եզրակացության ծրագրաշարից և մոդելի ֆայլից:
- Պարամետրեր (միլիարդ)
- Պահանջվում է ընդհանուր VRAM (GiB)
- Մնացած հիշողություն (GiB)
Գտեք AI մոդելներ ձեր GPU հիշողության համար
Մուտքագրեք հասանելի GPU հիշողությունը՝ գտնելու լեզվական մոդելներ, որոնք տեղավորվում են մեկ GPU-ի վրա՝ ընտրված համատեքստի երկարությամբ: Գնահատումները ներառում են մոդելի կշիռները, KV քեշը մեկ հաջորդականության համար և գործարկման ժամանակի պահուստը:
Ամենամեծ մոդելները նախ. Հիշողության իրական օգտագործումը կախված է եզրակացության ծրագրաշարից և մոդելի ֆայլից:
Այլ գործիքներ
Օգտագործողների ակնարկներ
Կարծիքները ստուգվում են հրապարակումից առաջ: Մենք հրապարակում ենք իրական դրական արձագանքներ և կոնկրետ քննադատություններ: Սպամ և վիրավորանքներ առանց օգտակար մանրամասների չեն հրապարակվում. հայհոյանքն ու անձնական տվյալները քողարկված են։ Դրական ձայները հաշվվում են անմիջապես. բացասական ձայները հաշվվում են վերանայումից հետո:
Կարծիքները արտացոլում են օգտատերերի փորձը, այլ ոչ թե արդյունքների երաշխիք կամ ծառայության սահմանաչափերի նկարագրություն: Կարծիք թողնելու համար օգտագործեք վերը նշված գնահատման կոճակները:
Այս լեզվով հրապարակված ակնարկներ դեռ չկան:





