Leagann Príomhfheidhmeannach Anthropic plean amach chun forbairt na hintleachta saorga a mhoilliú
D’iarr Dario Amodei ar an tionscal… moilliú. Ní stopadh. Luas. Aiste fhada, trí chéim, agus rabhadh go bhfuil féinfheabhsú athchúrsach ag cócaireacht níos tapúla cheana féin ná mar is féidir leis na daoine fásta é a iniúchadh.
Tá Anthropic ag tabhairt cuireadh go haontaobhach do mheastóirí leabaithe isteach san fhoirgneamh - suaitheantais, deasca, ríomhairí glúine, agus an ceart chun torthaí a fhoilsiú gan scagaire caidreamh poiblí. Ansin ba mhaith leis go gcomhordódh saotharlanna daonlathacha caighdeáin sábháilteachta. Ansin, ar bhealach éigin, margadh le rialtais údarásacha. Éasca ar pháipéar. Deacair i ngach áit eile.
Deir sé fós gur féidir le hintleacht shaorga a bheith ina míorúilt. Deir sé freisin go bhféadfadh sciamhán mí-ailínithe níos cumasaí seilbh a ghlacadh ar an idirlíon le botlíonra leanúnach agus na céadta billiún i ndamáiste a dhéanamh. Tá an dá abairt sin suite taobh le taobh agus ní thagann siad le chéile.
Ó - agus tá sé ag iarraidh maithiúnas caol frith-iontaobhais ionas nach fadhb dhlíthiúil iad na comhráite sábháilteachta iad féin. Tagann páipéarachas leis na coscáin. Ar ndóigh, tagann.
Deimhníonn Sam Altman nach rachaidh OpenAI ar an margadh poiblí i mbliana, ag rá go dtiocfadh IPO anois ag 'am neamh-mholta' i bhfianaise imní sábháilteachta maidir le hintleacht shaorga
Shuigh Altman síos le haghaidh agallaimh eisiaigh agus chuir sé deireadh leis an bhféilire liostála. Dúirt sé gur "nóiméad neamh-mholta" a bheadh i gceist le IPO faoi láthair. Níl an obair shábháilteachta déanta. Níl an ailíniú déanta. Níl an tsochaí réidh. Nuair a chuir siad brú air - ní i mbliana.
Bhí na baincéirí ag timpeallú cheana féin. Tá an comhad rúnda ann. Anois tá an POF ag rá go bhfuil go leor le déanamh acu ar dtús, lena n-áirítear a fháil amach conas a oibríonn an tionscal agus rialtais le chéile fiú. Bhí cuma air go raibh sé beagnach faoiseamh fanacht.
Dúirt sé freisin go bhfuil sé "go hiomlán" indéanta AI a thógáil lasmuigh de smacht an duine - ansin gheall sé go gcuirfeadh sé sos ar an oiliúint dá mba é sin an bealach. Dána. Áisiúil freisin, b'fhéidir. B'fhéidir an dá rud. Tá an dlúthbhaint idir neamhbhrabúis agus brabús ann, a mhaígh sé, ionas gur féidir leo glaonna a dhéanamh nach bhfuil go soiléir chun leasa na scairshealbhóirí. Feicfimid an mairfidh an abairt sin teagmháil le réamheolaire iarbhír.
Tugann Sam Altman ó OpenAI le fios go bhfuil comhaontú déanta aige le cuideachtaí eile intleachta saorga chun dul i ngleic le rioscaí sábháilteachta
An t-agallamh céanna, ceannlíne difriúil, agus seo an cogar. Suí síos le Amodei, Musk, agus Demis Hassabis an chéad chéim eile. Altman: ceapann sé go dtarlóidh sé sin. Ní fhógróidh sé cainteanna príobháideacha roimh ré. Ansin réamhfhógraigh sé iad go bunúsach.
Ní ghlactar le riosca tubaisteach dédhigiteach, a dúirt sé. Tá na samhlacha nár eisíodh go fóill chomh cumasach cheana féin go mbraitheann sé meargánta dul níos faide gan inmhonatóireacht níos fearr. Is féidir le comhaontú fíor agus atmaisféar a sceitheadh go cúramach breathnú mar an gcéanna ón taobh amuigh.
Bhí leagan den scéal seo cloiste ag an bhfoireann cheana féin. Go poiblí, tá ceo fós ann. Má tharlaíonn an seomra, go hiontach. Mura dtarlaíonn, rinne an luachan an obair fós.
Tacaíonn Sam Altman le glaoch Dario Amodei chun moilliú, agus deir sé go ndéanfaidh OpenAI an rud céanna
Uaireanta tar éis an aiste, phostáil Altman go gcomhlíonfadh OpenAI gealltanas an mheastóra leabaithe. Rochtain cosúil le fostaí. Tuilleadh le roinnt go luath. Scríobh Musk trí fhocal: "Tá Dario ceart." Trí POF iomaíocha. Mana amháin. Fuinneamh míshuaimhneach deireadh seachtaine.
Is féidir le comhordú agus amharclannaíocht taisteal le chéile. Tá dhá cheann de na saotharlanna is mó ag tabhairt a gcinn go poiblí anois ar an gcéad chéim de phlean Amodei. D'iarr Hugging Face - sea, an Hugging Face sin - páirt a ghlacadh sa chlár meastóireachta agus sheol sé rud ar a dtugtar an Tionscnamh Ailínithe Oscailte. Trédhearcacht ó na daoine a ndearnadh hacáil orthu. Filíochta, nó pointeáilte.
Níl aon duine san Eoraip, ar a laghad, le hiarraidh ar an maithiúnas sin de réir mar a bhí i Meiriceá. Tá deireadh leis an mBruiséil ag tabhairt díolúintí aonair i bhfad ó shin. Mar sin, is Meiriceánach an croitheadh láimhe. Tá an chuid eile den léarscáil… ag croitheadh guaillí.
Níl uaillmhian ag OpenAI ach buachan
Níl giúmar ceiliúrtha ar mhatamaiticeoirí i ndiaidh deireadh seachtaine agallaimh. Breathnaíonn sprint Navier-Stokes OpenAI - thart ar dheich míle gníomhaire, na deicheanna milliún dollar ríomhaireachta, ochtó a hocht n-uaire an chloig - cosúil le seilg trófaithe ón taobh istigh den réimse. Tá léargas ag teastáil ó mhatamaiticeoirí. Tá an saotharlann, a deir siad i gcónaí, ag iarraidh buachan.
Dúirt Tristan Buckmaster leo go dtairgfeadh OpenAI ríomhaireacht neamhtheoranta agus údaracht aonair dá scaoilfeadh sé a chomhoibrí a bhí cleamhnaithe le Anthropic. Dúirt sé gur breab a bhí ann. Dúirt sé nach ea. Deir OpenAI, go catagóiriúil, nach bhféadfadh tionchar a bheith ag a leideanna Codex ar an gcóras. Níl sé cinnte. Tá Andreas Thom fós ag smaoineamh an raibh comhráite ChatGPT faoina chuid oibre féin ag cothú an mhúnla a tógadh air níos déanaí. Ní bheadh a fhios ag an gcuideachta amháin. Tá amhras air nach bhfuil a fhios acu fiú.
Agus ansin an rud is tábhachtaí: deir OpenAI go bhfuil dul chun cinn suntasach déanta acu cheana féin ar fhadhb eile a bhaineann le Duais na Mílaoise. Ní thugtar ainm ar an gceann sin. Tá gá le fuinneog fhada glactha ag an bpobal fós ag Clay ar aon nós. Mar sin níl aon duine "buaite" fós. Tá siad ag rásaíocht don chéad cheann eile cheana féin. Gleoite.
Ceisteanna Coitianta
Cad é plean POF Anthropic, Dario Amodei, chun forbairt na hintleachta saorga a luasghéarú?
D’fhoilsigh Amodei aiste fhada ag iarraidh ar an tionscal moilliú síos – ní stopadh – mar go bhfuil féinfheabhsú athchúrsach ag dul chun cinn níos tapúla ná mar is féidir le hiniúchóirí coinneáil suas leis. Is é céim a haon ná cuireadh aontaobhach a thabhairt do mheastóirí leabaithe isteach in Anthropic le suaitheantais, deasca, ríomhairí glúine, agus an ceart chun torthaí a fhoilsiú gan scagaire caidreamh poiblí. Ansin ba mhaith leis go gcomhordódh saotharlanna daonlathacha caighdeáin sábháilteachta agus, sa deireadh, cineál éigin margadh le rialtais údarásacha. Ba mhaith leis freisin maithiúnas caol frith-iontaobhais ionas nach fadhb dhlíthiúil iad cainteanna sábháilteachta iad féin.
Cén fáth ar dhúirt Sam Altman nach ndéanfaidh OpenAI IPO i mbliana?
I n-agallamh eisiach, dúirt Altman nach mbeadh IPO i gceist faoi láthair mar go bhfuil obair shábháilteachta, ailíniú agus ullmhacht shóisialta fós críochnaithe. Nuair a cuireadh brú air, dheimhnigh sé nach mbeadh sé i mbliana cé go raibh baincéirí ag timpeallú agus go raibh comhad rúnda ann. D'áitigh sé go bhfuil an struchtúr neamhbhrabúis/brabúis ann ionas gur féidir le OpenAI glaonna a dhéanamh nach bhfuil go soiléir chun leasa na scairshealbhóirí. Dúirt sé freisin go bhfuil sé indéanta go hiomlán AI a thógáil lasmuigh de smacht an duine agus gheall sé go gcuirfeadh sé sos ar an oiliúint dá mba é sin an bealach.
An ndearna Altman leid faoi chomhaontú sábháilteachta le saotharlanna AI eile?
Sa chomhagallamh céanna, dúirt Altman go gceapann sé go mbeidh cruinniú le piaraí ar nós Amodei, Musk, agus Demis Hassabis ann, ach dhiúltaigh sé réamhfhógra a thabhairt faoi chainteanna príobháideacha. D’áitigh sé nach bhfuil riosca tubaisteach dédhigiteach inghlactha agus go bhfuil samhlacha nár eisíodh fós chomh cumasach cheana féin go mbraitheann sé meargánta dul níos faide gan inmhonatacht níos fearr. Bhí leagan de seo cloiste ag an bhfoireann go hinmheánach cheana féin, mar sin d’fhéadfadh tuairimí an phobail réamhamharc a thabhairt ar chomhordú seachas comhaontú críochnaithe a dhearbhú.
An gcomhlíonfaidh OpenAI gealltanas Anthropic maidir le meastóir leabaithe?
Uaireanta an chloig i ndiaidh aiste Amodei, phostáil Altman go gcomhlíonfaidh OpenAI an gealltanas meastóra leabaithe le rochtain cosúil le fostaí agus tuilleadh sonraí go luath. Scríobh Elon Musk go bhfuil Dario ceart, ag cur trí POF iomaíocha ar mana cosúil. D'iarr Hugging Face páirt a ghlacadh sa chlár meastóireachta agus sheol sé Tionscnamh Ailínithe Oscailte. Ní féidir leis an Eoraip an maithiúnas frith-iontaobhais céanna stíl SAM a thairiscint a chuir Amodei ar fáil, mar sin is Meiriceánach den chuid is mó atá an croitheadh láimhe faoi láthair.
Cén fáth a bhfuil matamaiticeoirí ag cáineadh sprint Navier-Stokes OpenAI?
Déanann matamaiticeoirí cur síos ar rith Navier-Stokes OpenAI, a mhaireann thart ar dheich míle gníomhaire agus ochtó a hocht uair an chloig, mar sheilg trófaithe a thugann tús áite do bhua thar léargas. Dúirt Tristan Buckmaster go raibh ríomhaireacht gan teorainn agus údaracht aonair ar fáil ó OpenAI dá scaoilfeadh sé comhoibrí a raibh baint aige le Anthropic; thug sé breab air agus dhiúltaigh sé. Deir OpenAI nach bhféadfadh tionchar a bheith ag a chuid leideanna Codex ar an gcóras, ach níl sé cinnte fós. Tá Andreas Thom fós ag cur brú ar cibé an raibh comhráite ChatGPT faoina chuid oibre féin ag cothú dul chun cinn níos déanaí sa mhúnla.
An bhfuil dul chun cinn déanta ag OpenAI ar fhadhb eile le Duais na Mílaoise?
Deir OpenAI go bhfuil dul chun cinn suntasach déanta acu cheana féin ar fhadhb eile a bhaineann le Duais na Mílaoise, ach ní ainmneoidh siad cé acu ceann. Tá gá le fuinneog fhada glactha ón bpobal fós ag Institiúid Matamaitice Clay, mar sin níl aon duine tar éis bua oifigiúil a fháil go fóill. Laistigh den réimse, léann an rúndacht sin móide an rás Navier-Stokes níos luaithe mar shaotharlanna atá ag rith an chéad trófaí eile cheana féin. Léiríonn agallaimh The Verge an teannas mar mhatamaiticeoirí ag iarraidh léargais agus OpenAI ag iarraidh buachan.