Cad is Ionad Sonraí Intleachta Saorga ann? [Físeán agus Tráth na gCeist]

Freagra gairid: Is suíomh ard-dlúis é ionad sonraí AI ina bhfuil cumhacht, fuarú, fabraic agus stóráil dírithe ar mhúnlaí oiliúna agus freastail, ní seomra freastalaí le GPUanna breise. Faigheann na sceallóga an clú agus cáil; cinneann an foirgneamh an n-oibríonn siad. Mura féidir leis na híomhánna imeacht, athchóiriú a dhéanamh ar chill bheag; ba chóir don chuid is mó de na foirne cíos a fháil.

Príomhphointí le tabhairt leo:

Sceallóga vs. foirgneamh: Is iad cumhacht, fuarú, fabraic agus stóráil a chinneann an n-oibríonn na luasairí.

Áiteanna ní páláis: Déan dhá raca a athchóiriú nuair nach féidir sonraí a fhágáil; ná ceannaigh campas.

Meán vs. meán: Ar ocht rith, atosaítear an meánfhaireachán; bain úsáid as an meán 18 n-uaire.

Friotaíocht in aghaidh mí-úsáide: Ná luaigh PUE do dhá raca i halla measctha.

Torthaí léiritheacha: Is léarscáil bheag iad ocht rith, ní coigilteas táirgeachta 50%.

Ailt a d’fhéadfadh a bheith spéisiúil duit a léamh i ndiaidh an cheann seo:

🔗 An bhfuil an Intleacht Shaorga iontaofa? Físeán agus tráth na gceist
Déan iniúchadh ar iontaofacht na hintleachta saorga trí fhíseán mealltach agus tráth na gceist idirghníomhach.

🔗 Conas AI a úsáid sa saol laethúil
Faigh amach bealaí praiticiúla ar féidir le AI tascanna agus gnáthaimh laethúla a shimpliú.

🔗 Conas AI a úsáid san ionad oibre
Foghlaim bealaí praiticiúla chun AI a úsáid le haghaidh táirgiúlacht níos cliste san ionad oibre.

🔗 An féidir le hintleacht shaorga smaoineamh di féin?
Tuig an féidir le hintleacht shaorga smaoineamh go neamhspleách nó réasúnú i ndáiríre.

Cén chaoi a bhfuil sé difriúil ó ionad sonraí "gnáth"

Déanann hallaí traidisiúnta an leas is fearr a bhaint as ualaí oibre measctha agus am ar fáil ar fud a lán seirbhísí beaga. Tá cúram ort faoi iomarcaíocht, cinnte, agus faoi PUE mar choincheap - fuinneamh breise a dhóitear sa bhfoirgneamh chun vata ríomhaireachta a sheachadadh. De ghnáth, ní dhearann ​​tú gach conair timpeall ar raca a iompraíonn cosúil le feirm téitheoirí iniompartha.

Athraíonn suíomhanna AI na cóimheasa. Méadaíonn an dlús. Éiríonn an líonra ina fhabraic nach féidir leis an obair oiliúna leanúint ar aghaidh gan í. Caithfidh stóráil pointí seiceála a choinneáil ag gluaiseacht nó fanann luasairí díomhaoin, cosúil le capaill rása i bplódú tráchta.

Tá difríocht chultúrtha ann freisin. Smaoiníonn oibríochtaí fiontair ar thicéid agus ar fhuinneoga athraithe. Smaoiníonn oibríochtaí AI ar scuainí poist agus an mothú tinn nuair a fhaigheann nód bás go déanach i dtréimhse fhada. Is dóigh liom gur féidir leat glaoch "ionaid sonraí" ar an dá cheann fós mar is ea iad. Ní dhéanann an lipéad ach an pluiméireacht a cheilt.

Ní rangú morálta é. Meaisíní difriúla, an sloinne céanna.

GPUanna, luasairí, agus an raca a itheann cumhacht

Siúil urlár ardaithe traidisiúnta agus beidh cuma beagnach béasach ar na racaí. Siúil sraith AI agus beidh cuma orthu gur mian leo an foirgneamh a shlogadh.

Ní LAP cliste an crua-earraí is suntasaí. Is é an tráidire luasaire atá ann: GPUanna nó sceallóga AI eile, pacáilte i bhfreastalaithe, ansin racaí, ansin sraitheanna a roinneann fabraic ard-bhandaleithid. Nascann GPUanna sceallóga le chéile i rud éigin ar féidir leis ligean air gur luasaire ollmhór amháin é; déanann fabraic an chnuasaigh an cleas céanna ar scála na sraithe. Ní oibríonn oiliúint chomhthreomhar ach amháin má fhanann na naisc sin ramhar agus intuartha. Caillfidh tú sin agus is carn stáisiún oibre costasach é do "chnuasach" a roinneann cód poist.

Leanann an chumhacht na sceallóga. Ní PDU oifige mór é. Meigeavata de luchtú TF a luaithe a líonann halla - ní chumfaidh mé uimhir. Is é an dlús in aghaidh an raca casadh an phlota. Níos lú racaí. Gach ceann acu ina fhoirnéis bheag. Is minic gurb é an fostáisiún an fachtóir teorannaithe, ní liosta mianta na GPUanna. Tá a fhios agat conas atá sé: teastaíonn níos mó luasairí ón soláthar; teastaíonn comhrá fada agus seic an-mhór ón bhfóntas.

Meafar beagáinín amaideach amháin nach féidir liom a chroitheadh ​​uaidh: is ainmhí ocrach é an raca. Is féidir leat ceann níos tapúla a phórú. Caithfidh tú é a bheathú fós, agus caithfidh tú an teas a shalachar fós. Má sheachnaíonn tú ceachtar acu, beidh sé ina mheáchan páipéir an-chostasach.

Cumhacht, teas, agus an fhadhb fuaraithe

Leictreachas isteach. Teas amach. Sin é an reiligiún ar fad.

Scaipeann racaí ard-dlúis teas ar bhealach nár iarradh ar an aer a láimhseáil riamh i ndáiríre. Is féidir leat an t-aer a bhrú níos deacra - malartóirí teasa cúil-dhoras, aislí níos teo, coimeád cliste - agus oibríonn sé sin go pointe áirithe. Ansin tagann leacht aníos:

• Fuarú díreach chuig an sliseanna

• Lúbaí fuaraithe a fhágann go bhfuil cuma monarchan ceimiceach ar an seomra plandaí

• Tumoideachas i roinnt dearaí, rud a chuireann iontas ar dhaoine fós a cheapann nár cheart d'uisce agus do fhreastalaithe abairt a roinnt

Níl aon rud galánta faoi seo. Is é an táirge atá ann ar fad, mar is luasaire a laghdaíonn luasghéarú ceann a d’íoc tú as cheana féin agus nach féidir leat a úsáid go hiomlán.

Tá tábhacht fós le PUE. Is cóimheas é, ní pearsantacht. Bíonn oibreoirí ag iarraidh é a dhéanamh mar is vata nár chuaigh chuig GPU gach vata a chaitear ar lucht leanúna agus caidéil. Ní luafaidh mé figiúr "tipiciúil"; bogann an aeráid agus an chaoi a dtarraingíonn tú an teorainn é, agus is measa cruinneas bréige ná gan aon cheann. Tá uisce sa scéal freisin. Súlann roinnt plandaí. Slogann cuid eile. fuarú galúcháin éifeachtach go dtí go ndéanann an abhainn nó triomach polaitiúil de.

Líonrú: cén fáth a bhfuil an fabraic chomh tábhachtach leis na sceallóga

Glacann daoine grianghraif de na GPUanna. Ba chóir dóibh grianghraif a ghlacadh de na lasca.

Is comhrá í an oiliúint. Na mílte luasairí ag malartú grádán, paraiméadair, agus blúirí de mhúnla, i sioncrón dlúth. Má chreathadh an fabraic, fanann an post ar fad ar an léim is moille. Sin é an fáth a mbíonn hallaí na hintleachta saorga ag tabhairt aird ar líonrú ard-bhandaleithid, ar mhoill íseal, agus ar thoipeolaíochtaí nach bhfilltear ina dhá leath nuair a theipeann ar nasc. Fabraicí cosúil le InfiniBand, Eitirnéad san ról céanna, idirnaisc GPU taobh istigh den bhosca, cáblaí a chaithfidh a bheith ceart an chéad uair.

Is comhrá difriúil é an tátal. Bíonn cúram ar fhreastal samhail faoi mhoill eireabaill - an freagra mall, ní an freagra meánach. Scoilteann baisceanna i gcomparáid le fíor-am an phearsantacht. Ba mhaith le braisle oiliúna gluaiseacht mhór, chomhchoiteann, uile-le-gach. Ba mhaith le cabhlach freastalaithe go leor iarrataí beaga agus aonrú, gan trácht ag an gcothromóir ualaigh.

An chailliúint, agus mé anseo: measann daoine gur pluiméireacht atá i gceist leis an líonra agus gur bialann atá i gceist leis na sceallóga. Sa bhfoirgneamh seo, is í an phluiméireacht an bhialann. Má chailleann tú sin, ceannaíonn tú cistin nach féidir léi seachadadh a ghlacadh.

Oiliúint vs. inference: dhá fhoirgneamh, uaireanta go litriúil

Is feachtas é an traenáil. Tionólann tú braisle, tugann tú sonraí dó, déanann tú seicphointí go dílis, ritheann tú ar feadh uaireanta nó seachtainí, agus guíonn tú go bhfanfaidh an fabraic gan eachtraí. Trom i mbaisceanna, ocrasach ar bhandaleithead, foighneach go ciúin - go dtí go mbainfidh nód teipthe greim as an rith. Is féidir le luasaire marbh amháin i bpost dlúth-cheangailte an cór ar fad a stopadh.

Is siopa é an t-inference. Tá samhlacha oilte cheana féin, agus anois tá siad ag freagairt ceisteanna, ag aicmiú íomhánna, ag giniúint téacs. Tá tábhacht leis an moill. Is féidir le luasaire beagán níos sine in aice leis an gcustaiméir ceann galánta a shárú atá ar mhór-roinn ar shiúl.

Mar sin, faigheann tú scoilt. Bíonn campais oiliúna ag iarraidh cumhacht, talamh agus dlús. Bíonn láithreacha inference ag iarraidh moill agus láithreacht. Bíonn hallaí hibrideacha ann freisin, mar níl caipiteal gan teorainn. Bhuel - ní bhíonn dhá fhoirgneamh ann i gcónaí. Uaireanta bíonn halla amháin le rópa veilbhit agus dhá lúb fuaraithe.

Seo an áit freisin a mbíonn comhlonnú, campais hiperscála, agus forc ar an láthair. Tógann hiperscálaitheoirí ar scálaí a fhágann go bhfuil an chuid eile againn ag breathnú amhail is dá mba rud é go bhfuilimid ag socrú troscáin. Díolann colos dlús de réir raca. Tarlaíonn ar an láthair fós nuair nach féidir le sonraí imeacht.

Tréchur stórála, seicphointí, agus sceallóga ocracha

Ní chuireann aon duine an córas comhad comhthreomhar ar chlúdach an bhróisiúir.

Caithfidh sonraí oiliúna teacht go tapa go leor ionas nach mbeidh GPUanna ag tapáil a gcosa. Caithfidh pointí seiceála teacht i dtír ionas nach gcaitheann tuairteáil seachtain amú. Caithfidh meáchain mhúnla luchtú sula mbíonn macasamhail ag freastal beo. Is é an tréchur stórála - ní hamháin an cumas - an bac ciúin. Is féidir leat fhortún a chaitheamh ar luasairí agus iad a ocras le sraith chúirtéiseach atá deartha do mheaisíní fíorúla.

Tá an patrún eolach: braisle lonrach, scuaine poist, agus fanacht ionchuir/aschur ag stánadh siar cosúil le sonrasc garbh. Is é braisliú ríomhaireachta gan an cosán sonraí a bhraisliú an bealach chun díomhaointeas an-daor a fháil. Coinnigh na sceallóga beo nó admhaigh gur cheannaigh tú dealbh.

Bogearraí, ceolfhoireannú, agus an ciseal oibríochta neamhghlamúrach

Is í an chrua-earraí an duine cáiliúil. Déanann sceidealóirí an obair.

Tá ionad sonraí AI gan úsáid mura féidir le poist GPUanna a aimsiú, mura féidir le dhá fhoireann braisle a roinnt gan troid, mura féidir céim theipthe a athsholáthar, má théann an firmware ar seachrán go dtí go dteipeann ar an bhfabraic i ngluaiseacht mhall. Ceolfhoireannú, inbhraiteacht, uasteorainniú cumhachta - an ciseal oibríochta neamhghlamánta, agus sin an chaoi a bhfuil a fhios agat go bhfuil sé tábhachtach.

Tá dúil mhór agam sa chiseal seo. Chomh maith leis sin, nuair a léiríonn NIC míchumraithe fadhb fuaraithe ar feadh tráthnóna iomlán... faigheann tú amach é sin ar an mbealach crua.

Nuair a fhaigheann nód bás i lár rith

Faigheann nód bás. Bíonn fuinneoga athraithe fós ag imbhualadh le ritheanna oiliúna nach bhfuil cúram orthu faoi do fhéilire. Déanann tú poist mhóra a sceidealú le grúpaí, linnte inference a chur i bhfolach, leabhair reatha a scríobh le haghaidh teipeanna a bhfuil cuma orthu "tá an post mall" go dtí go bhfuil cuma orthu "tá an post marbh". Tá iomarcaíocht fós tábhachtach - cumhacht, fuarú, cosáin, stóráil - ach níl an modh teipe chomh slachtmhar leis an sean-sleamhnán naoi n-am ar bun. Inference: macasamhail, draenáil an nód breoite, coinnigh ort ag freagairt. Tá seicphointí ag teastáil ó oiliúint, ní dóchas.

Suíomh, uisce, eangach, agus comharsana

Ní chaitheann tú ceann díobh seo in aice le teachín ar mhaithe leis an radharc.

Is minic gurb é an nasc leis an ngreille an próiseas roghnúcháin suímh iarbhír. Is furasta talamh a chur i gcomparáid le fostáisiún agus fóntais a bhfuil custaiméirí eile acu. Má úsáideann tú uisce le haghaidh fuaraithe, bíonn sé ina fhadhb do chomharsana a luaithe a bhíonn an bháisteach ró-gharbh. Torann. Meáchan amhairc. Teas ag fál teorann. Faigheann coistí pleanála tuairimí faoin "néal" a luaithe a bhíonn gá le páirc agus abhainn.

Tarraingíonn moill an treo eile. Is maith le hinfheireacht a bheith gar d’úsáideoirí agus d’idirnaisc. Is féidir le hoiliúint a bheith i bhfolach i margaí cumhachta níos saoire agus in aeráidí níos fuaire. Labhraíonn an tionscal amhail is dá mbeadh suíomh foirfe amháin ann. Níl. Tá comhréiteach ann le preasráiteas.

Teas atá fágtha agus an foirnéis gan iarraidh

Is breá le bróisiúir an chuid seo. Cuir an teas dramhaíola isteach i dtithe, i linnte snámha, i dtithe gloine; is abairt álainn í. Uaireanta bíonn lúb an cheantair fíor. Uaireanta bíonn an campas san áit mhícheart agus téann an teas fós san aer. Táim amhrasach faoin leagan bróisiúir; níl mé amhrasach faoin bhfisic.

Cé a bhfuil ceann de dhíth air (agus cé ba chóir dó ceann a fháil ar cíos ina ionad)

Ní gá do fhormhór na ndaoine ceann de na hallaí seo a bheith acu.

An liosta maol:

• Hipirscálaithe, mar is é an táirge an cabhlach

• Saotharlanna, nuair is é an t-am scuaine an bac, nó nach féidir sonraí a fhágáil

• Is féidir le banc, grúpa ospidéil, rialtas, nó monaróir a bhfuil tacar sonraí rúnda aige - ar an láthair nó i gcliabhán príobháideach - a bheith réasúnta, fiú más rud é gur praiseach é

Ba chóir do gach duine eile cíos a fháil. Comhshuíomh le dlús réidh le haghaidh AI. Áirithint scamall. Braisle bainistithe. Gheobhaidh tú na luasairí gan a bheith i d’oibreoir gléasra cumhachta freisin. Imíonn an rómánsaíocht an chéad uair a fhiafraíonn duine cé atá ar dualgas don lúb fuaraithe ag 3 am.

Tá rud éigin bródúil ann, admhaím. Mothaíonn sé cosúil le bheith i do sheilbh ar an mbraisle chun tuar a dhéanamh. Ansin tagann an sonrasc leictreachais, agus suíonn an bród síos.

Cad chuige an fhoirgnimh

Mar sin, cad is Ionad Sonraí Intleachta Saorga ann? Campas speisialaithe, ard-dlúis ina bhfuil luasairí, cumhacht, fuarú, fabraic agus stóráil eagraithe timpeall ar mhúnlaí oiliúna agus freastail - ní TF ilchuspóireach le GPU sa chúinne. Breathnaíonn sé cosúil le stóras. Iompraíonn sé cosúil le stáisiún cumhachta a dhéanann matamaitic.

Mura gcuimhin leat aon rud eile: faigheann na sceallóga an clú agus cáil; is é an fostáisiún, an fuaraitheoir, agus an líonra a chinneann an raibh na sceallóga sin ina smaoineamh maith. Is féidir le hoiliúint agus le hinfeireacht díon a roinnt; tá nósanna difriúla fós ag teastáil uathu. Ba chóir don chuid is mó d’eagraíochtaí cíos a dhéanamh. Ba chóir do roinnt eagraíochtaí tógáil. Tabharfaidh comharsana faoi deara ar aon nós.

Bhí foirgneamh ag an scamall i gcónaí. Tá tuairimí ag baint leis an bhfoirgneamh na laethanta seo.

Sampla ón saol réadúil: Cill oiliúna dhá raca nuair nach féidir leis na híomhánna imeacht

Cás-staidéar

Is é Tomos ceannaire bonneagair ag Kestrel Precision, monaróir 400 duine i West Midlands. Tá halla beag ar an láthair acu cheana féin: ERP, comhroinnt comhad, meaisíní fíorúla, an chomharsanacht mheasctha ar thosaigh an t-alt seo léi. Fuarú aeir. Gnáth-Eiteirnéad. SAN atá go hiomlán cúirtéiseach do dhioscaí oifige.

Caithfidh an fhoireann fís-mheaisín samhail chigireachta a thraenáil ar ghrianghraif monarchan. Ní féidir leis na grianghraif an suíomh a fhágáil. Taispeánann siad próiseas nach gcuirfidh an chuideachta ar dhiosca scamall, fiú ar cheann príobháideach. Is é réiteach an tSoláthair ná ceithre fhreastalaí dé-luasaire agus sleamhnán dar teideal "ár n-ionad sonraí AI". Téann na freastalaithe isteach i ndá raca atá ann cheana féin, mar go bhfuil spás ann, agus mhothaigh an spás mar an srian.

Níl. Laistigh de choicís, bíonn na GPUanna gnóthach agus ansin luascann siad go ciúin. Bíonn poist ag crawláil nuair a bhuaileann pointe seiceála an SAN. Faigheann nód bás ag uair a haon déag agus tá an rith díreach... imithe. Níor theip ar Tomos sceallóga a cheannach. Cheannaigh sé carn stáisiún oibre daor a roinneann cód poist. Bhí an foirgneamh fós ina halla fiontraíochta.

Ní gá campas, fostáisiún nua, ná abhainn dóibh. Teastaíonn cill bheag uathu a iompraíonn cosúil le hionad sonraí AI i mionsamhail: cumhacht is féidir leis na racaí a shealbhú i ndáiríre, teas a fhágann gan na sceallóga a chócaráil, fabraic ar féidir leis an bpost oiliúna labhairt faoi, stóráil ar féidir léi seicphointe a ghlacadh, agus leabhar reatha nuair a fhaigheann nód bás. Ós rud é nach féidir leis na híomhánna imeacht, ní hé cage colo a fháil ar cíos daichead nóiméad ar shiúl an freagra. Is é athchóiriú dhá raca an freagra.

Cad atá de dhíth ar an gcill

• Buiséad cumhachta tomhaiste ar an tsraith sin, ó na PDUanna, ní ó liosta mianta an GPU. Mura féidir leis an acmhainn bhreise na ceithre fhreastalaí a bheathú ag ualach oiliúna, stopann an comhrá ansin agus féachann siad ar dhath níos dlúithe, ní míorúilt

• Níor iarradh riamh ar fhuarú an aeir a láimhseáil ag an dlús seo: malartóirí teasa cúil-dhoras más féidir leis an halla iad a ghlacadh, nó lúb leachtach beag más féidir leis sin a ghlacadh ina ionad. Mura ndéantar ceachtar acu, ní théann na freastalaithe isteach

• Fabraic ard-bhandaleithid tiomnaithe idir na ceithre nód, ní Ethernet na hoifige. Mura bhfuil ach lasc 10 Gb ag an díoltóir sa chatalóg, ní braisle é sin

• Stóráil thapa áitiúil le haghaidh seicphointí agus scealpanna oiliúna, ní an VM SAN

• Sceidealóir, eatramh seicphointe, agus cosán atosaithe scríofa. Is í an crua-earraí an cháil. Is í an ciseal seo an jab

• Bosca inference fálta don líne monarchan, ar leithligh ón gcomhrá oiliúna, mar go bhfuil moill eireabaill agus aonrú ag teastáil ón bhfreastalaí, ní comhchoiteann

• Cead chun cumhacht, cloig GPU, imeachtaí luasaire, agus clog balla poist a logáil. Mura féidir leo iad sin a iniúchadh, déanfaidh siad grianghraif de na GPUanna agus caillfidh siad na lasca

Treoir shamplach

Cuireann Tomos é seo i gcáipéis na saoráidí, i ngnáthchaint:

Ná glaoigh campas AI air seo. Tóg cill oiliúna dhá raca sa halla atá ann cheana féin le haghaidh ceithre fhreastalaí dé-luasaire. Fanann na híomhánna monarchan ar an láthair. Is é an rath ná: críochnaíonn na ceithre nód oideas oiliúna cigireachta 12 ré gan sceallóg theirmeach, scríobh seicphointe i nóiméid ní deicheanna nóiméad, agus atosú ón seicphointe sin nuair a mharaímid céim d'aon ghnó. Caithfidh an fhuarú na GPUanna a choinneáil ag a gcloig oiliúna. Caithfidh an líonrú a bheith ina fhabraic a roinneann na ceithre bhosca sin, ní cosán tríd an stac oifige. Caithfidh an stóráil na sceallóga a bheathú. Mura n-oireann malartóirí teasa cúil-doras, abair amhlaidh agus stop. Ná luaigh PUE do dhá raca i halla measctha. Bheadh ​​an uimhir sin ina hamharclann.

Ansin cuireann sé seo sa phost oiliúna féin:

Seicphointe gach 30 nóiméad chuig an linn snámha tapa áitiúil. Má fhaigheann rang bás, atosú ón seicphointe iomlán deireanach. Ná fan ar an SAN. Ná lean ar aghaidh ag traenáil fad is atá na cloig tite ón teas. Logáil isteach é agus stop ionas gur féidir linn an stalla a fheiceáil.

Seo mar a bhíonn uair mhaith ann: na hocht GPU ag cloig oiliúna, comhad seicphointe tuirlingthe, an post fós i ngreim. Seo mar a bhíonn drochuair ann: lucht leanúna ag scairteadh go hard, cloig síos, seicphointe 2% scríofa tar éis deich nóiméad, agus duine éigin san oifig ag rá "tá an braisle suas". Ní oiliúint atá i gceist le suas.

Conas é a thástáil

Scríobhann siad an tástáil roimh an athchóiriú, agus sin an pointe ar fad gan muinín a bheith agat as taispeántas.

• An t-oideas 12-ré céanna, na 120,000 grianghraf cigireachta céanna, ocht rith

• Is é an t-amchlár an clog balla go dtí an t-oideas críochnaithe, lena n-áirítear aon atosú, arna thomhas ón uair a cuireadh an post isteach go dtí an pointe seiceála deireanach d'eip 12

• Gan teas a chur san áireamh: Fanann cloig GPU ag an sprioc oiliúna don rith. Is teip é imeacht luasghéaraithe fiú má chríochnaíonn an post sa deireadh

• Pas ar stóráil: am scríbhneoireachta seicphointe, meán agus an ceann is measa, ón log poist

• Pas ar an bhfabraic: ní bhíonn an post i bhfanacht chomhchoiteann fad atá céim sláintiúil. Mura féidir leo an fanacht sin a fheiceáil, níl an ionstraimíocht déanta

• Maraítear céim i gcéim sheasta i gcás dhá rith as na hocht rith, d'aon ghnó, chun an cosán atosaithe a thástáil

• Is tástáil 200 íomhá ar leithligh í an tátal ón líne monarchan go dtí an bosca freastail faoi fhál. Ní chomhaireamh rath na hoiliúna mar rath freastail

• Taifeadann siad cumhacht raca ó na PDUanna i samplaí 15 nóiméad ionas nach gá d'aon duine meigeavata a chumadh

Glacadh leis an gcill a ghlaoch "réidh le haghaidh AI": críochnaíonn 8 as 8 oideas; taispeánann 0 as 8 an luasaire teirmeach; atosóidh an dá rith a maraíodh; fanann na seicphointí i gceann cúpla nóiméad. Mura dtugann siad faoi deara é sin, bíonn seomra freastalaí acu fós le cártaí grafaicí galánta.

Toradh

Toradh léiritheach, ó thástáil ocht rith a rinneadh suas, ní figiúr Kestrel foilsithe.

Toimhdí: ceithre fhreastalaí dé-luasaire i dhá raca; samhail cigireachta amháin; 120,000 grianghraf; ocht rith d'oideas seasta 12-ré; áirítear sa chlog balla atosaithe go dtí go mbeidh an t-oideas críochnaithe; ciallaíonn luasaire titim logáilte den chlog oiliúna; is é an t-am seiceála an scríobh, ní an mian; is samplaí PDU é cumhacht an raca, ní PUE an champais.

Roimh an athchóiriú, GPUanna i ngnáthracaí aerfhuaraithe ar Ethernet na hoifige agus ar an VM SAN:

• Críochnaíodh 5 as 8 rith ar an gcéad iarracht. Meán-chlog balla i measc na gcúig cinn sin: 14 uair an chloig

• B’éigean do 3 as 8 tosú arís tar éis stopadh ag thart ar uair 11 (dhá cheann tar éis do nód bás a fháil le pointe seiceála seanchaite, ceann amháin tar éis do phointe seiceála an SAN a líonadh). Athiarracht láithreach, gan fanacht thar oíche sa chlog: 11 uair an chloig amú móide dara hiarracht 14 uair an chloig, nó 25 uair an chloig go dtí oideas críochnaithe ar na trí cinn sin

• Meán-am go dtí oideas críochnaithe thar na hocht n-uaire, atosaithe san áireamh: 18 uair an chloig. (Cúigear ag 14, trí cinn ag 25. Is é 14 an meán de na hocht n-uaire fós, rud a cheiltfeadh na hatosaithe. Sin é an fáth gurb é an meán an bunlíne anseo.)

• Logáladh an sceithleán teirmeach ar 7 as 8 rith. Meán-am ag clog laghdaithe: 3 uair an chloig in iarracht 14 uair an chloig

• Scríobh ag pointe seiceála: meán 22 nóiméad

• Ní raibh siad in ann dul tríd an tástáil "Rang-kill". Ní raibh leabhar reatha acu. Ba iad an dá bhás de thaisme an toradh

• Ualach buaic TF ar an dá raca le linn na hoiliúna: thart ar 18 kW. Bhí na vata ag an rámhaíocht. Ní raibh an fuarú ná an fabraic aige

Tar éis malartóirí teasa cúil-dorais ar an dá raca sin, fabraic tiomnaithe idir na ceithre nód, linn bheag NVMe le haghaidh seicphointí, seicphoint 30 nóiméad, agus leabhar reatha atosaithe:

• 8 as 8 críochnaithe ar an gcéad iarracht. Meán-am clog balla: 9 n-uaire an chloig

• Smál teirmeach: 0 de 8

• Scríobh seiceála: meán 90 soicind. An ceann is measa sa tsraith: 3 nóiméad

• Leanadh ar aghaidh leis an dá mharú céime d'aon ghnó ón seicphointe 30 nóiméad deireanach. Clog balla breise ar an dá rith sin: thart ar 40 nóiméad an ceann, an diagnóis san áireamh, mar sin shuigh an bheirt sin beagnach 9 n-uaire 40 nóiméad. Meán thar ocht mbabhta fós go 9 n-uaire an chloig

• Ualach buaic TF fós thart ar 18 kW. Na sceallóga céanna. Iompar difriúil foirgnimh

Ar fud an tsampla seo, thit an meán-am-go-rinne-oideas-le-críochnú-ó-18-uaire-go-9-uaire-an-uaire, nó-9-uaire-an-uaire-an-uaire,-72-uaire-an-uaire-thar-ocht-rith. Chuaigh an 'críochnaithe-den-chéad-uair' ó-5-as-8-go-8-as-8. Chuaigh an luasaire ó-7-as-8-go-0-as-8. Is í an uimhir dheireanach sin an ceann a deir an gceannaigh siad luasairí nó meáchain pháipéir. Ní thabharfaidh siad coigilteas 50% ar an dtáirgeadh ar an athrú ama. Is sraith bheag, éasca é ocht rith.

Is meastachán samplach iad na figiúirí seo bunaithe ar an tástáil luaite, sampla beag, samhail amháin, agus halla measctha amháin. Ní PUE iad, ní meigeavata campas, agus ní cruthúnas iad gur cheart do Kestrel suíomh oiliúna a thógáil i bpáirc. Bhí athbhreithniú ar na logaí laistigh de na 9 n-uaire an chloig; níor cheil siad é. Is léamh PDU cruinn é an figiúr 18 kW, ní sonrasc fóntais. Níor thiontaigh siad na 72 uair an chloig ina gcostas, mar go mbeadh cás gnó bréige déanta ag ráta leictreachais chumasctha na monarchan.

Bhí an seic freastail ar leithligh agus níos lú: 200 íomhá líne chuig an mbosca fálta, ar fad ar an láthair. Is inference é sin, ní oiliúint. Bheadh ​​​​an dá cheann a mheascadh ina botún beag den halla hibrideach.

Cad a d'fhéadfadh dul amú

• Leanann an córas soláthair ag glaoch ceithre fhreastalaí "an t-ionad sonraí AI". Folaíonn an lipéad an pluiméireacht, agus is é an chéad cheannach eile ná níos mó GPUanna don aisle céanna breoiteachta

• Téann malartóirí cúil isteach agus ní choimisiúnaíonn aon duine taobh an uisce. Tá na lucht leanúna fós ag béicíl. Tá na cloig fós ag titim

• Is lasc aonair é an fabraic gan aon chonair spártha. Nasc amháin a theip air agus is ceithre stáisiún oibre arís an "braisle"

• Fanann pointí seiceála ar an SAN mar gur "céim a dó" a bhí sa linn NVMe. Ní shroicheann céim a dó roimh an gcéad nód marbh eile

• Luann siad PUE do dhá raca i halla measctha. Déanann an aeráid, an teorainn, agus an chuid eile den tsraith ERP an cóimheas sin ina chulaith

• Roinneann an oiliúint agus an freastal an fabraic. Fágann tuile seicphointe go bhfuil an líne monarchan ag fanacht. Is é an mhoill eireabaill an táirge ansin, ní an dlús

• Faigheann nód bás agus measann duine éigin é mar thicéad ama ar líne seachas atosú seicphointe. Bíonn oibríochtaí fiontair agus oibríochtaí hintleachta saorga ag caint thar a chéile ar feadh tráthnóna iomlán

• D’fhéadfaidís cage a fháil ar cíos, ach ní féidir leis na híomhánna imeacht. Má dhéanann siad dearmad ar an srian sin, cuireann siad isteach i gcomhrá scamall iad agus beidh orthu scíth a ligean

Beir leat praiticiúil

Ní stóras é Ionad Sonraí Intleachta Saorga sa chruth seo agus ní sonrasc GPU é. Is í an chill í a ligeann do luasairí an rith a chríochnú: cumhacht is féidir leo a shealbhú, teas a fhágann, fabraic, seicphointe, agus duine éigin ar an dubhán nuair a fhaigheann céim bás. Ní raibh campas ag teastáil ó Kestrel. Bhí dhá raca ag teastáil uathu chun stop a chur leis an ligean orthu féin. Ba chóir don chuid is mó de na foirne an t-iompar sin a fháil ar cíos. Ba chóir do chúpla ceann, a bhfuil tacar sonraí rúnda acu agus halla ar féidir leis an teas a sheasamh, cill a thógáil agus an sleamhnán a dhiúltú.

Ceisteanna Coitianta

Cad is Ionad Sonraí AI ann?

Suíomh ríomhaireachta ard-dlúis ina bhfuil cumhacht, fuarú, líonrú agus stóráil dírithe ar oiliúint chomhthreomhar agus ar fhreastal samhlacha, ní ar shraitheanna slachtmhara freastalaithe ilchuspóireacha. Tá sé deartha sa chaoi is gur féidir le líon ollmhór luasairí samhlacha a oiliúint agus a sheirbheáil gan leá, moill a chur ar an líonra, nó fanacht ar dhiosca. Is comharsanacht mheasctha é halla fiontair gnáth. Is monachultúr é halla AI a bhfuil a aonad luacha mar an luasaire, amhail GPUanna nó sceallóga de stíl TPU. Breathnaíonn sé cosúil le stóras agus iompraíonn sé cosúil le stáisiún cumhachta a dhéanann matamaitic.

Cén chaoi a bhfuil ionad sonraí AI difriúil ó ghnáthionad sonraí?

Déanann hallaí traidisiúnta an leas is fearr a bhaint as ualaí oibre measctha agus am ar líne ar fud a lán seirbhísí beaga. Athraíonn suíomhanna AI na cóimheasa: méadaíonn an dlús, éiríonn an líonra ina fhabraic nach féidir leis an bpost oiliúna maireachtáil gan í, agus caithfidh an stóráil seicphointí a choinneáil ag gluaiseacht nó fanann luasairí díomhaoin. Smaoiníonn oibriúcháin fiontair i dticéid agus i bhfuinneoga athraithe. Smaoiníonn oibriúcháin AI i scuainí poist agus an mothú tinn nuair a fhaigheann nód bás go déanach i dtréimhse fhada. D’fhéadfá glaoch ar an dá ionad sonraí fós. Ní dhéanann an lipéad ach an pluiméireacht a cheilt.

Cén fáth a n-úsáideann ionaid sonraí AI an oiread sin cumhachta?

Ní LAP cliste an crua-earraí is suntasaí. Is é an tráidire luasghéaraithe atá ann: GPUanna nó sceallóga AI eile, pacáilte i bhfreastalaithe, ansin racaí, ansin sraitheanna a roinneann fabraic ard-bhandaleithid. Is é dlús in aghaidh an raca casadh an phlota: níos lú racaí, gach ceann acu ina fhoirnéis bheag. Feictear meigeavata d'ualach TF nuair a líonann halla, cé nach fiú figiúr tipiciúil a chumadh. Is minic gurb é an fostáisiún an fachtóir teorannaithe, ní liosta mianta na GPUanna.

Conas a fhuaraítear ionaid sonraí AI?

Scaipeann racaí ard-dlúis teas ar bhealach nár iarradh ar an aer a láimhseáil riamh i ndáiríre. Is féidir leat aer a bhrú níos deacra le malartóirí teasa cúil-dorais, aislí níos teo, agus coinneáil chliste. Ansin tagann leacht chun cinn: fuarú díreach chuig an sliseanna, lúba fuaraithe, agus tumoideachas i roinnt dearaí. Is luasaire a laghdaíonn luasghéarú ceann a d'íoc tú as cheana féin agus nach féidir leat a úsáid go hiomlán. Tá tábhacht fós le PUE mar is vata nach ndeachaigh chuig GPU gach vata a chaitear ar lucht leanúna agus caidéil. Tá uisce sa scéal freisin: bíonn roinnt plandaí ag ól, bíonn cuid eile ag slogadh.

Cén fáth a bhfuil an oiread céanna tábhacht ag baint leis an líonrú agus atá leis na GPUanna?

Is comhrá í an oiliúint: na mílte luasairí ag malartú grádán, paraiméadair, agus blúirí de mhúnla i sioncrón dlúth. Má chreathadh an fabraic, fanann an post ar fad ar an léim is moille. Sin é an fáth a mbíonn hallaí AI ag tabhairt aird ar líonrú ard-bhandaleithid, ar mhoill íseal, ar fabraicí cosúil le InfiniBand nó ar Eitirnéad san ról céanna, agus ar thoipeolaíochtaí nach bhfilltear ina dhá leath nuair a theipeann ar nasc. Tá cúram ar an inference faoi mhoill eireabaill, ar go leor iarratais níos lú, agus ar aonrú. Sa bhfoirgneamh seo is í an pluiméireacht an bhialann.

Cad chuige a n-úsáidtear Ionad Sonraí Intleachta Saorga: oiliúint nó inference?

Is feachtas í an oiliúint: cuir braisle le chéile, cuir sonraí leis, déan seicphointí go dílis, agus rith ar feadh uaireanta nó seachtainí. Is siopa é an t-inference: samhlacha atá oilte cheana féin, ag freagairt anois, le moill a bhfuil tábhacht leis. Bíonn campas oiliúna ag tóraíocht cumhachta, talún agus dlúis. Bíonn láithreáin inference ag tóraíocht moill agus láithreachta. Bíonn hallaí hibrideacha ann toisc nach bhfuil caipiteal gan teorainn, uaireanta halla amháin le dhá lúb fuaraithe. Is féidir le luasaire beagán níos sine in aice leis an gcustaiméir ceann galánta a shárú atá ar mhór-roinn ar shiúl.

Cén fáth a bhfuil stóráil tábhachtach i lárionad sonraí AI?

Caithfidh sonraí oiliúna teacht go tapa go leor ionas nach mbeidh GPUanna ag tapáil a gcosa. Caithfidh pointí seiceála teacht i dtír ionas nach gcaitheann tuairteáil seachtain amú. Caithfidh meáchain mhúnla luchtú sula mbíonn macasamhail ag freastal beo. Is é an tréchur stórála, ní hamháin an cumas, an bac ciúin. Is féidir leat fhortún a chaitheamh ar luasairí agus iad a ocras le sraith chúirtéiseach atá deartha do mheaisíní fíorúla.

Cad a tharlaíonn nuair a fhaigheann nód bás i lár an rith?

Is féidir le luasaire marbh amháin i bpost oiliúna atá ceangailte go dlúth an cór ar fad a chur ar fionraí. Tá seicphointí, ní dóchas, ag teastáil ón oiliúint. Draenálann an t-inferens an nód breoite, coinníonn sé macasamhail ag freagairt, agus fanann sé beo. Bíonn imbhualadh fós idir fuinneoga athraithe agus ritheanna oiliúna nach bhfuil cúram orthu faoi do fhéilire. Tá iomarcaíocht fós tábhachtach maidir le cumhacht, fuarú, cosáin, agus stóráil, ach níl an modh teipe chomh slachtmhar leis an sean-sleamhnán naoi n-am suas.

Cén tionchar atá ag Ionad Sonraí Intleachta Saorga ar an eangach, ar an uisce agus ar na comharsana?

Is minic gurb é an nasc leis an ngreille an próiseas roghnúcháin suímh iarbhír. Is furasta talamh a chur i gcomparáid le fostáisiún agus fóntais a bhfuil custaiméirí eile acu. Má úsáideann tú uisce le haghaidh fuaraithe, bíonn sé ina fhadhb do chomharsana a luaithe a bhíonn an bháisteach garbh, mar aon le torann, toirt amhairc, agus teas ag fál teorann. Is féidir oiliúint a cheilt i margaí cumhachta níos saoire agus in aeráidí níos fuaire. Is maith le hinference a bheith gar d’úsáideoirí. Níl aon suíomh foirfe amháin ann. Tá comhréiteach ann le preasráiteas.

An gá dom ionad sonraí AI a bheith agam, nó ar cheart dom é a fháil ar cíos?

Ní gá do fhormhór na ndaoine ceann de na hallaí seo a bheith acu. Tógálann hipearscálaithe toisc gurb é an táirge an cabhlach. Tógálann saotharlanna nuair is é an t-am scuaine an bac nó nuair nach féidir le sonraí imeacht. Is féidir le banc, ospidéal, rialtas, nó monaróir a bhfuil tacar sonraí rúnda aige/aici comhshuíomh ar an láthair nó i gcliabhán príobháideach a dhéanamh réasúnach. Ba chóir do gach duine eile comhshuíomh réidh le haghaidh AI, áirithint scamall, nó braisle bainistithe a fháil ar cíos. Faigheann tú na luasairí gan a bheith i d'oibreoir gléasra cumhachta.

Tagairtí

1. IEA - www.iea.org

2. LBNL - datacenters.lbl.gov

3. An Eangach Glas - www.thegreengrid.org

4. LBNL - datacenters.lbl.gov

5. LBNL - datacenters.lbl.gov

6. Institiúid Ama Suas - journal.uptimeinstitute.com

7. NVIDIA - developer.nvidia.com

8. NVIDIA - docs.nvidia.com

9. NVIDIA - docs.nvidia.com

10. NVIDIA - docs.nvidia.com

11. Google Cloud - docs.cloud.google.com

Faigh an AI is Déanaí ag an Siopa Oifigiúil Cúntóra AI

Fúinn