ఫిసన్‌

ఆధునిక హార్డ్‌వేర్ యొక్క సామర్థ్యాన్ని నిర్ణయించడంలో AI మరియు ML ప్రాసెసింగ్ శక్తి ఒక ముఖ్యమైన మెట్రిక్‌గా మారింది Cpus, Gpusలేదా npus. ప్రాసెసర్ శక్తిని పక్కన పెడితే, ఎంచుకున్న పరామితి మరియు మోడల్ యొక్క ఖచ్చితత్వాన్ని బట్టి AI పనులు కూడా చాలా జ్ఞాపకశక్తిని పెంచుతాయి. ఉదాహరణకు, సింగిల్ ప్రెసిషన్ (ఫ్లోట్ 32) సాధారణంగా పారామితి విలువ కంటే నాలుగు రెట్లు వినియోగిస్తుంది. అందువల్ల, 32GB RTX 5090 ను కూడా ఎనిమిది-బిలియన్ పారామితి నమూనాను అనుకరించడం ద్వారా సంతృప్తపరచవచ్చు.

AMD RX 7900 XTX, NVIDIA RTX 4090, మరియు RTX 5090 వంటి గ్రాఫిక్స్ కార్డులు వాటి అందుబాటులో ఉన్న 24-32 GB VRAM బఫర్‌పై ఆధారపడతాయి. అవి సాధారణంగా డెస్క్‌టాప్ హార్డ్‌వేర్ అయితే, మొబైల్ ఫారమ్ ఫ్యాక్టర్‌లో కూడా ఇటువంటి స్పెక్స్‌ను అధిగమించే ప్రయత్నాలు కూడా ఉన్నాయి. ఉదాహరణకు AMD ఈ సంవత్సరం ప్రారంభంలో CES లో రైజెన్ AI మాక్స్ మరియు మాక్స్+ APUS లను విడుదల చేసింది, మరియు వారు చేయగలరు 96GB మెమరీ వరకు కేటాయించండి. దానికి ధన్యవాదాలు, అటువంటి మెమరీ-డిమాండింగ్ లోడ్‌లో MAX+ 395 NVIDIA యొక్క RTX 4090 ను సులభంగా ఓడించగలదని AMD పేర్కొంది.

ఇంతలో, ఫిసన్ ఇప్పటికే కొంతకాలంగా ఇటువంటి సాంకేతిక పరిజ్ఞానంపై పనిచేస్తున్నాడు, ఇది హార్డ్‌వేర్ అందుబాటులో ఉన్న బఫర్ నుండి బయటపడటానికి సహాయపడుతుంది. అందుబాటులో ఉన్న HBM (హై-బ్యాండ్‌విడ్త్ మెమరీ) / GDDR ను విస్తరించడం ద్వారా మరియు NAND ఫ్లాష్-ఆధారిత “Iadaptivcache” తో కలపడం ద్వారా డైనమిక్ కాషింగ్‌కు సహాయపడే దాని ఐడాప్టివ్+ సూట్‌తో ఇది అలా చేస్తుంది. ఫిసన్ యొక్క స్వంత AI100 SSD లు కాషింగ్ ప్రయోజనం కోసం ఉపయోగించబడతాయి. ప్రాథమిక ఆలోచన ఏమిటంటే, కాషింగ్ ఇకపై ఖరీదైనది కాదు ఎందుకంటే NAND సాధారణంగా HBM లేదా GDDR వంటి వాటి కంటే చాలా చౌకగా ఉంటుంది.

ఇలాంటిదే మొదట AMD ప్రారంభించినప్పుడు ఇది ప్రయత్నించింది రేడియన్ ప్రో ఎస్ఎస్జి తిరిగి సిగ్‌గ్రాఫ్ 2017 వద్ద. కంపెనీ 2 టిబి ఎన్‌విఎమ్‌ఇని జిపియు యొక్క ఆన్-బోర్డ్ VRAM గా ఉపయోగించింది.

ఫిసన్ యొక్క ఐడాప్టివ్+ టెక్ ఇప్పటికే మైంగీర్ యొక్క AI ప్రో డెస్క్‌టాప్ వర్క్‌స్టేషన్లలో అందుబాటులో ఉంది మరియు ఈ రోజు జిటిసి 2025 లో, కంపెనీలు కొత్త కాన్సెప్ట్ ల్యాప్‌టాప్‌ను ప్రారంభిస్తున్నాయి. ఐడాప్టివ్+ కు కొన్ని కొత్త మెరుగుదలలు ఉన్నాయి, ఇందులో కొత్త వెర్షన్ 3.0 ఐడాప్టివ్లింక్ మిడిల్‌వేర్ ఉంటుంది. ఈ మిడిల్‌వేర్ SSD యొక్క NAND మరియు GPU మధ్య డేటా బదిలీకి బాధ్యత వహిస్తుంది.

ఫిసన్ ప్రకారం, ఐడాప్టివ్లింక్ వెర్షన్ 3.0 మొదటి టోకెన్ (టిటిఎఫ్‌టి) రీకాల్ రెస్పాన్స్ మరియు గ్రేటర్ ఎల్‌ఎల్‌ఎమ్ (పెద్ద భాషా మోడల్) కు వేగవంతమైన సమయాన్ని అందిస్తుంది, పొడవైన టోకెన్ పొడవుకు కృతజ్ఞతలు.

దిగువ చార్ట్ ఫిసన్ యొక్క ఐడాప్టివ్+ మైంగీర్ యొక్క క్వాడ్ ఎన్విడియా RTX 6000 ADA సెటప్‌ను ఐడాప్టివ్ లేకుండా సులభంగా అధిగమిస్తుంది+ మోడల్ పరిమాణం 13 బిలియన్లకు మించిన తర్వాత. ఒకవేళ మీకు తెలియకపోతే, ప్రతి RTX 6000 ADA 48 GB GDDR6 మెమరీని ప్యాక్ చేస్తుంది.

ఫిసన్ యొక్క ఐడాప్టివ్+ను ఉపయోగించి డైనమిక్ కాషింగ్ దాని వర్క్‌స్టేషన్లలో ఎలా పనిచేస్తుందో మైంగీర్ వివరించింది:

ప్రో ఐ షోడాన్ మీ 70 బి ట్రైనింగ్ మోడల్‌ను డైనమిక్‌గా ముక్కలు చేస్తుంది, ప్రస్తుత ముక్కలను హై-స్పీడ్ శిక్షణ కోసం GPU కి అందిస్తోంది, మిగిలిన మోడల్‌ను DRAM మరియు ప్రత్యేక ఫిసన్ AI100 SSDS లో నిల్వ చేస్తుంది. ప్రతి ఎన్విడియా RTX 6000 ADA కనీస సమయ వ్యవధిలో శిక్షణ సమయంలో పూర్తి పనితీరుతో నడుస్తుంది.

8 బిలియన్ పారామితి ఎల్‌ఎల్‌ఎమ్‌ల వరకు అనుకోవటానికి మద్దతు ఇచ్చే “పరిశ్రమ యొక్క మొట్టమొదటి” అటువంటి పరికరంగా మైంగీర్ రాబోయే కాన్సెప్ట్ AI ల్యాప్‌టాప్‌ను ఫిసన్ చెప్పారు. దానిపై ఆసక్తి ఉన్నవారు మైంగైర్ వెబ్‌సైట్‌లో నమోదు చేసుకోవచ్చని కంపెనీ పేర్కొంది. ధర సమాచారం ప్రకటించబడలేదు. కొత్త టెక్నాలజీస్ ఏప్రిల్ 2025 నుండి అందుబాటులో ఉంటాయి.