Totonu ConveyThis Tekinolosi: Fausiaina o La Tatou Upega Tafa'ilagi Crawler

Fai lau 'upega tafaʻilagi i gagana e tele ile 5 minute
Fa'ailoa lenei fa'aaliga
Fa'ailoa lenei fa'aaliga
My Khanh Pham

My Khanh Pham

Faʻaleleia le Aafiaga o Tagata Faʻaoga: ConveyThis Faʻailoaina le Pulea URL

Tele ConveyThis patrons e sili ona fa'aliliu uma a latou upegatafa'ilagi URLs, e mafai ona avea ma se galuega faigata, aemaise lava mo nofoaga lautele ua faaliliuina i le tele o gagana.

O fa'amatalaga a le au fa'aoga ua fa'aalia ai o nisi tagata fa'atau na latou iloa le amataga o a latou galuega fa'aliliu i luga o le upega tafa'ilagi e fai si fa'alavelave. E masani ona latou fesiligia pe aisea e mafai ai ona latou matamata i le itulau autu URL i le lisi o faaliliuga, ma pe faʻafefea ona faia faʻaliliuga o latou mea.

Ua faailoa mai ai se vaega e ono mafai ona faaleleia. Na matou va'ai i se avanoa e fa'afaigofie ai se faiga fa'alelei i luga ole va'aiga ma sili atu ona lelei le fa'afoeina o galuega. Ae ui i lea, e leai se matou fofo mautu i lena taimi.

O le iʻuga, e pei ona e mafaufauina, o le faʻaofiina o le faʻaogaina o le URL Management feature. E mafai ai e tagata fa'aoga ona su'esu'e URL a latou upegatafa'ilagi ma fa'atupu a latou mea fa'aliliu e ala i le ConveyThis Dashboard, vave ma lelei.

Talu ai nei, na si'itia ai lenei vaega mai le Lisi Fa'aliliuga i se itulau fou e sili atu ona fetu'una'i ma mamana e fa'atatau i le fa'aliliuga a URL. Ia, matou te talitonu ua oʻo i le taimi e faʻaalia ai le tala i tua atu o le amataga o lenei vaega.

921

Taliaina Golang: Fa'ailoa Lenei' Malaga i Au'aunaga Fa'aliliuga Fa'aleleia

922

O le amataga o le lokaina o le 2020 ona o le faʻamaʻi na ou maua ai le avanoa e aʻoaʻoina ai le gagana polokalame Golang lea na faʻateʻaina ona o le taimi.

Atinaʻe e Google, Golang poʻo Go ua maua le lauiloa i tausaga talu ai nei. O se gagana fa'akomepiuta tu'ufa'atasia, Golang na mamanuina ina ia mafai ai e le au atia'e ona fa'atautaia lelei, fa'atuatuaina, ma fa'atasi tulafono. O lona faigofie e lagolagoina ai le tusitusi ma le tausia o polokalame lautele ma faigata e aunoa ma le ositaulagaina o le saoasaoa.

I le mafaufau loloto i se itu e mafai ona fai e faamasani ai aʻu ia Golang, na oso aʻe i le mafaufau se tagata fetolofi i luga o le upega tafaʻilagi. Na fetaui ma taʻiala o loʻo taʻua ma mafai ona ofoina atu se fofo mo tagata faʻaoga ConveyThis. O le 'upega tafa'ilagi po'o le 'bot' o se polokalame e asiasi i se upega tafa'ilagi e su'e fa'amaumauga.

Mo le ConveyThis, o le matou faʻamoemoe o le atinaʻeina lea o se meafaigaluega mo tagata faʻaoga e suʻesuʻe ai latou nofoaga ma toe aumai uma URL. E lē gata i lea, sa matou mananaʻo e faafaigofie le faiga o faaliliuga. I le taimi nei, e tatau i tagata faʻaoga ona asiasi i la latou upega tafaʻilagi i se gagana faʻaliliu e faʻatupuina ai, o se galuega e avea ma faʻalavelave mo nofoaga tetele, tele-gagana.

E ui lava o le uluai faʻataʻitaʻiga sa tuusaʻo - o se polokalame e ave ai se URL e fai ma faʻaoga ma amata ona tolotolo i luga o le saite - sa vave ma aoga. Alex, ConveyThis 'CTO, vaʻaia le gafatia o lenei fofo ma tuʻuina atu le alu i luma mo suʻesuʻega ma atinaʻe e faʻaleleia ai le manatu ma mafaufau pe faʻafefea ona faʻafeiloaʻi le auaunaga gaosiga i le lumanaʻi.

Fa'asagaga o le Serverless Trend ma le Go ma Fa'ailoa Lenei

I le faagasologa o le faʻamaeʻaina o le web crawler bot, na matou tauivi ma faʻamatalaga o CMS eseese ma tuʻufaʻatasiga. Na tulaʻi mai le fesili - faʻafefea ona sili atu le tuʻuina atu o matou tagata faʻaoga i le bot?

I le taimi muamua, na matou mafaufau i le faʻataʻitaʻiina ma le faʻataʻitaʻiina o le faʻaogaina o le AWS faʻatasi ai ma se upega tafaʻilagi. Ae ui i lea, e tele ni faʻafitauli e ono tulaʻi mai. Sa i ai lo matou le mautonu e uiga i le uta o le server, o le faʻaoga tutusa e le tele o tagata faʻaoga, ma le leai o se poto masani i le Go program hosting.

O lenei mea na mafua ai ona matou mafaufau i se faʻataʻitaʻiga talimalo e leai se server. O lenei mea na ofoina atu faʻamanuiaga e pei o le faʻatonutonuina o atinaʻe e le kamupani tuʻuina atu ma le faʻalauteleina o le faʻaogaina, ma avea ai ma fofo lelei mo le ConveyThis. O lona uiga e le tatau ona matou popole e uiga i le gafatia o le server talu ai o talosaga taʻitasi o le a faʻagaoioia i totonu o lana lava koneteina.

Ae ui i lea, i tua i le 2020, o le serverless computing na oʻo mai ma se tapulaa 5-minute. O lenei mea na faʻamaonia ai se faʻafitauli mo le matou bot lea e ono manaʻomia e tolotolo ai nofoaga tetele e-commerce ma le tele o itulau. O le mea e lelei ai, i le amataga o le 2020, na faʻalauteleina e le AWS le tapulaʻa i le 15 minute, e ui o le faʻatagaina o lenei faʻaaliga na faʻamaonia o se galuega faigata. Mulimuli ane, na matou mauaina le fofo e ala i le faʻaosoina o le serverless code ma SQS - le AWS message queuing service.

923

O le Malaga i Feso'ota'iga Fa'atau-Taimi Moni Bot ma le ConveyThis

924

A o matou foia le faafitauli o le talimalo, sa i ai se isi faigata e foia. Ua i ai nei le matou bot, faʻafeiloaʻi i se auala lelei, faʻalauteleina. O le galuega na totoe o le tuʻuina atu lea o faʻamatalaga na gaosia e bot i matou tagata faʻaoga.

O le faʻamoemoe mo le maualuga o fesoʻotaʻiga, na ou filifili ai i le taimi tonu o fesoʻotaʻiga i le va o le bot ma le ConveyThis dashboard. E ui o le taimi moni e le o se mea e manaʻomia mo sea foliga, sa ou manaʻo ia matou tagata faʻaoga ia maua vave faʻamatalaga pe a amata ona galue le bot.

Ina ia ausia lenei mea, matou atiina ae se Node.js websocket server faigofie, talimalo i luga o se faʻataʻitaʻiga AWS EC2. O lenei mea e manaʻomia ai ni tweaks i le bot mo fesoʻotaʻiga ma le websocket server ma le faʻaogaina otometi. Ina ua maeʻa suʻega maeʻaeʻa, ua matou sauni e faʻafeiloaʻi i le gaosiga.

O le mea na amataina o se itu na iu lava ina maua lona tulaga i le dashboard. E ala i luitau, na ou maua ai le malamalama i le Go ma faʻaleleia oʻu tomai i le siosiomaga AWS. Na ou mauaina le aoga faapitoa o le Go mo galuega o upegatafa'ilagi, polokalame fa'atasi, ma komepiuta e leai se server, ona o lona tulaga maualalo o le manatua.

E iai a matou fuafuaga i le lumanaʻi ona o le bot e aumaia avanoa fou. Matou te faʻamoemoe e toe tusi a matou meafaigaluega e faitau upu mo le sili atu ona lelei, ma faʻaaogaina mo le mafanafana o le cache. Ou te faʻamoemoe na e fiafia i lenei suʻesuʻega i le ConveyThis's tech world e pei ona ou fiafia e faʻasoa.

Ua sauni e amata?

Faaliliuga, e sili atu nai lo le na o le iloaina o gagana, o se faagasologa lavelave.

E ala i le mulimulitaia o matou fautuaga ma le fa'aogaina o le ConveyThis , o le a fa'alogoina au itulau fa'aliliu i lau au fa'alogo, ma lagona fa'apitoa i le gagana fa'atatau.

E ui e manaʻomia ai taumafaiga, ae e tauia le iʻuga. Afai o lo'o e fa'aliliuina se upegatafa'ilagi, e mafai e le ConveyThis ona fa'asaoina itula ile fa'aliliuga otometi a masini.

Taumafai ia ConveyThis fua mo le 7 aso!

gradient 2