ሁዋዌ የ “TensorFlow” እና “PyTorch” ዘይቤ “MindSpore” ጥልቅ ትምህርት መካከለኛ መሣሪያ አሁን ክፍት ምንጭ መሆኑን አስታወቀ። በዚህ ጽሑፍ ውስጥ በጣም አስፈላጊ ባህሪያቱን ይፈልጉ ፡፡
ሁዋዌ AI ን አፕሊኬሽኖችን ለማጎልበት የሚይስስፖር ማዕቀፉ ክፍት ምንጭ እና በጊሁብ እና በጊቴ ላይ የሚገኝ መሆኑን አሁን አስታውቋል ፡፡ ሚንደስፖር ጂፒዩዎችን እና የሁዋዌ አስሴንድ ፕሮሰሰሮችን ከሚደግፈው ከ Edge እስከ ደመና ድረስ ለመጠቀም ከተሰራው ከ ‹TensorFlow› ወይም‹ PyTorch› ጋር ተመሳሳይነት ያለው የነርቭ አውታረመረብ ሞዴሎችን ለማሰልጠን ሌላ የጥልቀት መማር ማዕቀፍ ነው ፡፡
ባለፈው ነሐሴ ሁዋዌ የአስንድንድ ፕሮሰሰርን በይፋ መጀመሩን ሲያሳውቅ ሚንድስፖር ለመጀመሪያ ጊዜ የተዋወቀው “በመደበኛው ResNet-50 ላይ የተመሠረተ የሥልጠና ክፍለ ጊዜ ፣ የአሴንድ 910 እና ሚንድስፖር ጥምረት ሁለት እጥፍ ያህል ፈጣን ነው ፡፡ የ “AI” ሞዴሎችን ከሌሎች ዋና ዋና የመማሪያ ካርዶች ጋር TensorFlow ን ሲሰለጥኑ እውነት ነው በቅርብ ዓመታት ውስጥ ብዙ ማዕቀፎች ብቅ ማለታቸው እውነት ነው ፣ እና ምናልባትም ሚንስፕሬር ከ ‹TensorFlow› ጋር በርቀት (በ Google የተደገፈ) እና ፒቶርች (በፌስቡክ የተደገፈ) እንኳን በርቀት ሊወዳደር ከሚችል አንድ ቡድን በላይ ነው ፡)
የስርዓት ሥነ ሕንፃ
የመሠረተ ልማት አውታሮች ሶስት ዋና ዋና ንጣፎችን ያቀፉ መሆኑን የሚንድስፖር ድርጣቢያ ይገልጻል የፊት ለፊት መግለጫ ፣ የግራፊክስ ሞተር እና የኋላ ጊዜ አሂድ። የሚከተለው ምስል የእይታ ንድፍ ያሳያል:
የመጀመሪያው ደረጃ “MindSpore” ለፕሮግራም አድራጊዎች ፓይዘን ኤፒአይ ይሰጣል ፡፡ በማኅበረሰባችን ውስጥ የቋንቋ የቋንቋ ጥናት በእውነቱ ፓይቶን ስለሆነ እና ሚንደስፎርም ከፒቶርች እና ቴንሶርሎው ጋር መወዳደር ይፈልጋል ፡፡ በዚህ ኤ.ፒ.አይ., የፕሮግራም አዘጋጆች ሞዴሎችን (ስልጠና ፣ ግምት ፣ ወዘተ) እና የሂደቱን ሂደት ማዛባት ይችላሉ ፡፡ ይህ የመጀመሪያ ደረጃ ለኮድ ጊዜያዊ ውክልና (MindSpore IR) ድጋፍን ያጠቃልላል ፣ በእሱ ላይ በትይዩ እና በራስ-ሰር ልዩነት (GHLO) ውስጥ ሊከናወኑ የሚችሉ ብዙ ማበረታቻዎች ይመሰረታሉ ፡፡
የአፈፃፀም ግራፍ ራስ-ሰር ልዩነትን ለመፍጠር እና ለማስፈፀም አስፈላጊ ተግባራትን የሚያቀርብ የግራፍ ሞተር ንብርብር ከዚህ በታች ይገኛል። በሚንድስፕሬይ አማካኝነት ከፒቶርች (ተለዋዋጭ የማስፈጸሚያ ግራፍ የሚያመነጨው) ወይም ከ ‹TensorFlow› ሌላ አውቶማቲክ ልዩነትን ሞዴል መርጠዋል (ምንም እንኳን ይበልጥ ቀልጣፋ የማይንቀሳቀስ የማስፈጸሚያ መርሃግብርን የመፍጠር አማራጭ በመጀመሪያ የተመረጠ ቢሆንም አሁን ግን ተለዋዋጭ የአፈፃፀም ግራፍ አማራጭን ይሰጣል እና ይፈቅዳል ፡፡ የዝቅተኛ ደረጃ ኤ.ፒ.አይ. @ tf.fun ዲኮርን በመጠቀም የግራፉ የማይንቀሳቀስ ስሪት)።
ሁለቱን ሞዴሎች ለመጠቀም የ MindSpore ምርጫ የምንጭ ኮዱን ወደ መካከለኛ ኮድ ቅርጸት (MindSpore IR) መለወጥ ነው (ለበለጠ መረጃ በ MindSpore ድር ጣቢያ ላይ “ራስ-ሰር መለያየት” የሚለውን ክፍል ይመልከቱ) ፡፡
የመጨረሻው ንብርብር ኮዱ የሚሰራባቸውን የተለያዩ የሃርድዌር ስነ-ህንፃዎችን ለመደገፍ የሚያስፈልጉትን ሁሉንም ቤተመፃህፍት እና የአሂድ ጊዜ አከባቢዎችን ያቀፈ ነው ፡፡ ምናልባትም ከሌሎቹ ማዕቀፎች ጋር በጣም የሚመሳሰል የጀርባ አጀንዳ ይሆናል ፣ ምናልባትም ከሁዌይ ባህሪዎች ጋር ለምሳሌ እንደ ኤች.ሲ.ሲ.ኤል. (የሁዋዌ የጋራ መግባባት ቤተመፃህፍት) ያሉ ቤተ-መጻሕፍት ፣ ከ NVIDIA NCCL (NVIDIA የጋራ መግባባት ቤተ-መጽሐፍት) ጋር ተመሳሳይ ነው ፡፡
የሥልጠና ምስላዊ ድጋፍ
በ MindSpore አጋዥ ስልጠና መሠረት እነሱን ለመጫን እና ለመጠቀም የማይቻል ቢሆንም ፣ እነሱ በተወሰነ ደረጃ የ TensorBoard ፣ TensorFlow ን የሚያስታውሱ ምስላዊ ምስሎችን ለመፍጠር MindInsight አላቸው። በድር ጣቢያቸው ላይ የሚያሳዩትን አንዳንድ ቅጽበታዊ ገጽ እይታዎችን ይመልከቱ-
በመመሪያው መሠረት ሚንደስፖር በአሁኑ ጊዜ የምንፈልጋቸውን ሁሉንም የሞዴል መለኪያዎች እና ሃይፐርፓራተሮች በማሰልጠን ሂደት ውስጥ (እንዲሁም በኬርስስ እንዴት እንደሚሰራ የሚያስታውስ) ለመጻፍ (በሎግ ፋይል ውስጥ) እንዲሁም የሂሳብ ስሌት መርሃግብርን ይጠቀማል ፡፡ የነርቭ አውታረመረብን ወደ መካከለኛ ኮድ ማጠናቀር ተጠናቅቋል።
ትይዩነት
በትምህርታቸው ውስጥ ስለ ሁለት ትይዩአዊነት ሞዶች (DATA_PARALLEL እና AUTO_PARALLEL) ይነጋገራሉ እና Rescet-50 ን ለ ‹Ascend 910› ፕሮሰሰር በ CIFAR የውሂብ ስብስብ የሚያሰለጥን የናሙና ኮድ ያቀርባሉ ፡፡ DATA_PARALLEL የሚያመለክተው በተለምዶ የውሂብ ትይዩነት በመባል የሚታወቅ ሲሆን የስልጠና መረጃን በበርካታ ንዑስ ንዑስ ክፍሎች መከፋፈልን ያካተተ ነው ፣ እያንዳንዳቸው በአምሳያው ተመሳሳይ ቅጅ ላይ የሚሠሩ ፣ ግን በተለያዩ የአሠራር ክፍሎች ውስጥ። የግራፍ ሞተር ድጋፍ ለኮድ ትይዩነት እና በተለይም ለ AUTO_PARALLEL ትይዩነት ይሰጣል ፡፡
AUTO_PARALLEL ሞዱል ሞዴሉ ወደ ተለያዩ ክፍሎች ከተከፋፈለበት እና እያንዳንዱ ክፍል በተለያዩ የአሠራር ክፍሎች ውስጥ በተመሳሳይ መልኩ የሚከናወነውን የመረጃ ትይዩ ስልትን (ከዚህ በላይ የተወያየውን) ከአምሳያው ትይዩነት ስትራቴጂ ጋር በማጣመር ትይዩነትን በራስ-ሰር ያመቻቻል ፡፡ ይህ አውቶማቲክ ሞድ በጣም ጥሩ ጥቅሞችን የሚያመጣውን ትይዩአዊ ስትራቴጂን ይመርጣል ፣ ይህም በአይነምፓስ ድርጣቢያ ላይ ባለው በራስ-ሰር ትይዩ ክፍል ውስጥ ሊነበብ ይችላል (ምንም እንኳን ግምቶች እና ውሳኔዎች እንዴት እንደሚወሰዱ ባይገልጹም) ፡፡ የቴክኒካዊ ቡድኑ ሰነዶቹን ለማስፋት እና ስለ ራስ-ተጓዳኝነት ስትራቴጂ ተጨማሪ ዝርዝሮችን ለመረዳት ጊዜ ለማግኘት መጠበቅ አለብን ፡፡ ነገር ግን ይህ የራስ-ተጓዳኝነት ስትራቴጂ ወሳኝ እንደሆነ ግልጽ ነው ፣ እናም የሁዌይ ፕሮሰሰርዎችን በመጠቀም እጅግ የላቀ አፈፃፀም በማግኘት ከ TensorFlow ወይም ከ PyTorch ጋር መወዳደር የሚኖርባቸው እና የሚቻለው ይህ ነው ፡፡
የታቀደ የመንገድ ካርታ እና እንዴት ማበርከት እንደሚቻል
ብዙ የሚሰሩ ሥራዎች እንዳሉ እና በዚህ ወቅት በዚህ ገጽ ላይ በቀረበው ሰፊ ፍኖተ-ካርታ ላይ ለሚቀጥለው ዓመት በአእምሮአቸው የሚመጡትን ሀሳቦች ቀልጣፋ አድርገውታል ነገር ግን ቅድሚያ የሚሰጠው ነገር በተጠቃሚው መሠረት ይስተካከላል ብለው ይከራከራሉ ፡፡
ግብረመልስ በአሁኑ ጊዜ እነዚህን ዋና ዋና መስመሮችን ማግኘት እንችላለን-
- ለተጨማሪ ሞዴሎች ድጋፍ (በመጠባበቅ ላይ ያሉ ጥንታዊ ሞዴሎች ፣ GAN ፣ RNN ፣ Transformers ፣ የተጠናከረ የመማሪያ ሞዴሎች ፣ ፕሮባቢሊቲ መርሃግብሮች ፣ AutoML ፣ ወዘተ) ፡፡
- የአጠቃቀም እና የፕሮግራም ተሞክሮን ለማሻሻል ኤ.ፒ.አይ.ዎችን እና ቤተ-መጻሕፍት ያራዝሙ (ብዙ ኦፕሬተሮች ፣ የበለጠ አመቻቾች ፣ የበለጠ የጠፋ ተግባራት ፣ ወዘተ)
- ሁሉን አቀፍ የሁዋዌ Ascend አንጎለ ኮምፒውተር ድጋፍ እና የአፈፃፀም ማመቻቸት (የመሰብሰብ ማመቻቸት ፣ የሀብት አጠቃቀም ማሻሻያ ፣ ወዘተ)
- የሶፍትዌሩ ክምችት ዝግመተ ለውጥ እና የሂሳብ ግራፊክ ማመቻቸት አፈፃፀም (የመካከለኛውን የ IR ውክልና ማሻሻል ፣ ተጨማሪ የማመቻቸት ችሎታዎችን መጨመር ፣ ወዘተ) ፡፡
- ለተጨማሪ የፕሮግራም ቋንቋዎች ድጋፍ (ፓይዘን ብቻ አይደለም) ፡፡
- የራስ-ሰር መርሃግብርን ከማመቻቸት ጋር ፣ የተሻሻለ ስርጭት ትምህርት ፣ የውሂብ ስርጭት ፣ ወዘተ።
- በመማር ሂደት ውስጥ ለፕሮግራም አድራጊው “ማረም” እና የ “hyperparameter” ማስተካከያን የበለጠ ለማሻሻል የ MindInsight መሣሪያን ያሻሽሉ።
- በኤጅ (Edge) ውስጥ ላሉ መሣሪያዎች የግለሰቦችን ተግባራዊነት የማድረስ ሂደት (ደህንነት ፣ መድረክ ላይ ላልሆኑ ሞዴሎች ድጋፍ በ ONNX ፣ ወዘተ)
በማህበረሰቡ ገጽ ላይ ሚንደስፖር ከሁዋዌ እና ከቻይና ውጭ ያሉ የኤድንበርግ ዩኒቨርስቲ ፣ ኢምፔሪያል ኮሌጅ ለንደን ፣ የሙንስተር ዩኒቨርሲቲ (ጀርመን) ወይም ፓሪስ-ሳክላይ ዩኒቨርሲቲ ያሉ አጋሮች እንዳሉት ማየት ይችላሉ ፡፡ ግልፅ የሆነ የአስተዳደር ዘይቤን ተከትለን መላው ማህበረሰብ ለኮዱም ሆነ ለሰነዶቹ አስተዋጽኦ እንዲያበረክት እንጋብዛለን ይላሉ ፡፡
ማጠቃለያ
ከፈጣን የመጀመሪያ እይታ በኋላ ትክክለኛ የዲዛይን እና የአተገባበር ውሳኔዎች (እንደ ኮንኮርረንሲንግ እና ራስ-ሰር ልዩነት ያሉ) ሊበልጡ ከሚፈልጉት ማዕቀፎች የተሻለ አፈፃፀም ላስመዘገቡ ማሻሻያዎች እና ማመቻቸት ክፍተትን የሚጨምር ይመስላል ፡፡ግን PyTorch እና TensorFlow ን ለመያዝ አሁንም ብዙ ስራዎች ከፊት አሉ ፣ እና ከሁሉም በላይ አንድ ማህበረሰብ መገንባት ብቻ አይደለም! ሆኖም ሁዋዌን በመሰለ ዘርፉ በአንድ ትልቅ ኩባንያ ድጋፍ ሁሉም ነገር እንደሚቻል ሁላችንም እናውቃለን ፣ ወይም ከሦስት ዓመት በፊት የመጀመሪያው የፒቶርች (ፌስቡክ) ስሪት ወደ ተረከዙ ሊጠጋ እንደሚችል ሲገለጥ ነበር ፡፡ የ TensorFlow (ጉግል)?
