高職院校大學生就業能力建設項目評估
——一、項目概況
2018年,為回應大學生就業難、“一帶一路”時代背景下Y領域人才短缺的問題,X機構實施了“高職院校大學生就業能力建設項目”,即對大學、職業院校的學生開展知識和技能培訓,對接企業就業,同時為中國Y領域行業發展輸送人才,助力“一帶一路”政策推進。項目合作執行方Z社會企業為某二線城市6所大學和職業院校的學生進行就業創業培訓,項目周期為2018年10月至2019年7月。
項目目標為:通過對大學、職業院校的學生開展就業能力建設培訓,并對接Y領域企業就業,解決大學、職業院校畢業生的就業問題,讓他們掌握知識技能的同時,提升職業綜合素養,實現高質量的就業,同時聯動Y領域企業開放就業崗位,為行業輸送人才。項目目標的衡量指標是為XX地區350名高校貧困生和高職學生,實現受益群體80%的結業率,60%的就業率和10%的創業率。項目目標由X機構、提供資助的M跨國企業、合作執行方社會企業Z綜合討論確定。
為實現項目目標,項目團隊從需求調研、課程體系和培訓模式建立、培訓對象篩選、實習/就業信息和資源對接、學生社群運營及優秀學員案例傳播、項目評估與經驗總結六個方面進行了設計。
利益相關方及合作模式:X機構有豐富的就業培訓類項目支持經驗,社會企業Z是專業的培訓機構,擁有Y領域實操類培訓師資和課程資源,X機構與社會企業Z為本項目定制專門的人才培養方案。社會企業Z與當地高職院校有良好的合作網絡,同時作為Y領域人才培訓服務商,擁有企業人員招聘的信息渠道和資源。X機構與社會企業Z制定了項目綜合實施方案,指導項目的執行與管理,包括規范培訓對象選擇原則、就業創業培訓線上線下課程體系、項目服務流程,由社會企業Z合作中心、教務處、培訓部、就業部、后勤保衛處、財務部分工協作為項目執行提供全面保障,與合作高職院校對接確定參與培訓學員名單、時間、場地,按照項目計劃派出教師為學員提供系統培訓,X機構通過定期線上會議、實地訪點等方式跟進項目監測與管理。項目從執行階段即引入專業的第三方評估機構界入做全過程評估,通過前后測了解各利益相關方對項目的期待、滿意度和評價,評估項目成效,并對項目改善提出意見與建議。
項目運作模式圖
二、評估目的與問題
本項目評估目的為:一是,系統梳理項目設計與執行情況,總結項目經驗,分析其面臨的挑戰與局限,提出項目改進建議。二是,評估項目預期目標的達成情況,以及項目對受益人、大學或職業院校、XX領域企業的影響。評估問題包括:
項目設計和執行情況是怎樣的?
項目的直接產出情況是怎樣的?
項目的效果如何?即項目給受益人帶來了哪些改變?是否滿足了受益人的需求?
項目的影響如何?即項目對包括機構本身在內的各個利益相關方產生了哪些影響?
項目的管理模式有哪些優勢與不足,為項目完善提出可能的路徑。
三、評估模式
該項目需第三方評估在項目為受益對象正式提供服務之前介入的全過程評估,基于評估的需求、預算的有限性以及X機構在項目中的角色定位,明德與X機構項目團隊共同探索雙方聯合式評估模式。
基于明德在評估方面的專業性以及X機構將對項目進行全過程的跟蹤與監測,為充分發揮各自優勢及提高資源使用率,明德負責評估有關的技術文件設計,如評估指標體系、問卷及訪談提綱,并與X機構共同探討完善。明德將在培訓過程中和項目末期進行實地調研,對各利益相關方進行訪談,了解項目執行、產出與效果情況。X機構進行全過程跟蹤并監測項目進程,為評估提供過程信息支持。
評估模式
四、評估框架
本次評估在設計評估框架過程中,將國際通行的經濟合作發展組織發展援助委員會(OECD-DAC)開發的應用于項目評估的標準與明德經過實踐總結出來的公益項目通用的以共享價值為導向的 5S 評估模型相結合。
參考以上評估模型,結合該項目特點以及評估目的,并充分與X機構項目團隊溝通,最終形成以下評估框架:
項目評估框架
五、評估方法
本項目評估采用參與式評估,讓項目管理團隊參與到項目評估的重要環節中,共同促進項目完善與團隊成長。
評估團隊在培訓前、后和項目結束階段分別對學員及利益相關方進行調研,一方面,借助X機構的自有軟件針對學員開展問卷調查;另一方面,通過實地調研針對學員及利益相關方開展焦點小組與深度訪談。力求通過前后測的方式獲取較為全面的信息。此次評估過程中用到的方法主要集中于以下幾種:
1. 文獻研究
項目資料以X機構與Z社會企業項目組提供的“大學生Y領域創就業培訓”項目痕跡資料和其他官方渠道公布的資料為主;文獻資料以論文、期刊、政策文件等專業文獻為主,互聯網、自媒體資料為輔。通過資料分析,評估團隊較為全面地了解了有關現象背后的邏輯以及項目實施情況。
2. 問卷調查
基于項目受益人數量并不很多、所處地域與項目合作機構較為集中,且有進行線下集中培訓,評估團隊在培訓前、后兩個時間節點分別對學員開展了問卷調查,學員在培訓前反饋其需求及對培訓期待,在培訓后反饋學習的收獲及對培訓的滿意情況。共有401人報名參加培訓,319人填寫培訓前調查問卷,填答率79.55%;結業人數為366人, 275人填寫培訓后調查問卷,填答率75.14%。
3. 深度訪談與焦點小組
為深入細致地把握實際情況、加深對項目目標達成過程的理解,評估團隊在項目開始階段、培訓結束后進行了兩次實地調研,分別為2018年12月、2019年5月,每次調查時間為4天,與各利益相關方負責人、執行參與人進行了深度訪談,與各階段受益學員(包括培訓前階段、培訓過程中、培訓結束時、實習階段)進行了深度訪談,同時開展了焦點小組了解受益學員反饋。
六、主要評估結論
評估團隊從共享價值、項目戰略、項目運作、項目效果與影響、可持續性五個維度進行評估分析,評估結果表明:
共享價值方面,項目設計關注回應大學生求職能力建設、Y領域行業人才培養的需求,各方對項目核心價值的認知高度統一;項目各利益相關方反饋項目核心價值實現,且對價值理解的共識程度較高,同時項目對執行方產生了明顯的附加價值;各利益相關方對項目目標的知曉度較好,各利益相關方對核心目標達成共識;項目目標的實現情況較好,培訓學員人數超過預期,學員就業率超出預期,但學員創業的挑戰和困難較大,建議調整項目指標中對創業率的期待。
項目戰略方面,該項目與發起機構以及主要參與機構的戰略定位匹配度高,通過開展該項目能夠促進各相關方的業務發展,助力跨國企業、公益組織、社會企業實現使命愿景;項目戰略與模式具有較強的創新性,社會組織與社會企業、院校、企業多方主體合作,形成了新的人才培訓模式,院校和學生的需求前置,服務方式更具有社會關懷,并且用人企業也能從中受益;本項目在設計與執行過程中,運用了各方的優勢資源,有效回應民辦和職業院校大學生就業難和Y領域行業人才緊缺的問題,并通過實操強的培訓方式,回應了受益群體的需求,項目模式設計精準有效;項目在指標設計、風險管理等方面還應做進一步制度化設計和優化。
項目運作方面,項目覆蓋的學員選拔較精準,只有少量學生對培訓的方向不感興趣,學員流失率低;項目投入了充足學員支持資源與人力資源,學員對學習過程的滿意度評價較高;受益人對整體線下和線上課程內容滿意度較高、課程設置合理,執行方提供的就業支持資源能滿足學員需求;項目組織架構和分工清晰,溝通協作高效,是實現項目高效運作的重要基礎;項目制定了較完備的管理制度,項目流程設計明確,執行方在項目運作過程中兼顧規范性和靈活性,為合作學校提供定制化的服務方案;項目文檔和痕跡管理仍有優化完善的空間。
項目效果與影響方面,除創業率指標之外,項目產出基本全面實現,結業率、就業率超出預期,但佐證項目產出的記錄和數據資料收集等工作精細程度有待進一步加強;綜合各方反饋,學員知識學習、技能掌握和能力提升、綜合職業素質各方面顯著成長;受益方學員和學校都對培訓做出了非常正向的評價,對培訓課程內容、講師能力和態度十分肯定,用人企業對學生工作能力非常滿意;通過項目執行與社會宣傳,項目對X機構、社會企業Z機構形象、社會影響力、 口碑影響方面均有提升;項目實現了項目的附加價值,對執行人員工作能力提升、學員就業發展空間和機會、學校培養學生體系完善、用人企業觀念更新均產生了正向的影響。
可持續性方面,受益人的變化與成長顯著,在持續影響方面具有明顯的可持續性;該項目探索了一套Y領域人才培養模式,合作各方均認可此項目價值,持續合作意愿較高;通過對項目目標、干預方式、項目成效和影響梳理,項目模型基本成型,具有一定復制推廣的價值。
七、環境掃描與評估建議
明德對本項目發展背景做了三個維度的掃描,包括Y領域行業規模和人才供給平衡情況、Y領域行業發展趨勢、社會企業發展趨勢,結合權威的行業研究報告數據、行業專家預測與判斷、政策法規文件,為項目發展提供參考。
綜合評估結果與環境掃描,評估團隊對項目發展提出以下建議,包括:
1. 厘清商業與公益模式的邊界,實現公益資源優化配置。該建議主要針對社會企業Z作為Y領域人才培訓專業服務商,項目執行之初,公益資助項目和商業服務兩者之間的工作邊界不夠清晰,為更好地實現公益項目的社會價值,因此建議統籌方和執行方在模式總結時深入討論厘清商業運營和公益項目資助之間的邊界和區別。
2. 借助大數據思維優化管理手段,助力公信力提升以及專業發展。該建議主要針對本項目涉及到受益對象在培訓各環節的線上學習數據信息、線下培訓出勤信息、考試信息、學員指導記錄信息、就業信息與其他可能的變動信息等,同時項目資料管理也有待進一步加強,因而建議在項目管理方面結合信息化工具,形成完備、高效的管理系統進行項目數據采集,同時培養項目痕跡管理意識。
3. 加大對受益人等各相關方的倡導,更大化發揮公益資源價值。該建議主要針對項目執行前期的宣傳和倡導相對以外部為主,而項目內部受益群體對參與的公益項目屬性認識有限,因而建議進一步加強項目公益理念和價值的傳遞,特別是學員層面,將更加珍惜有限的公益資源和機會,提升公益資源利用率、避免資源浪費。
4. 優化工作機制完善操作指引,形成易推廣的有效操作模式。該建議主要針對項目發展的推廣和復制,綜合各利益相關方對項目的意見反饋和完善建議,總結提煉項目模式、優化工作機制,細化工作流程,加強項目細節管理,在項目流程、執行標準、資助標準等方面形成更細致的操作指引和規范要求,同時保留根據學校需求量身定制的優勢,兼顧標準化與可調整的彈性空間。
5. 整合資源推廣復制至更廣范圍,增強扶貧等附加價值實現。該建議主要針對原項目設計中對貧困學生的關懷未能實現,因而建議統籌方整合更多潛在資源,考慮在下一階段開展項目時擴大項目輻射范圍,如中西部經濟欠發達地區的學校和貧困學生,提升資金的使用效益,讓更多地區的學生、學校受益,提升培訓的緊迫性與必要性,使項目資金發揮更大社會價值。
八、主要評估挑戰
評估雖然較早介入該項目,但項目設計已經確定,且部分工作已在開展。評估合作確定的時間與需要發放培訓前測問卷的時間相隔甚短,因而未能與項目團隊以及各利益相關方共同對項目進行系統梳理。以致在初期,評估團隊未能在促進各方更加互相了解、加深各方對項目的認識以及促成多方形成共識等方面做出貢獻,也未充分獲得利益相關方對評估的認知與反饋以貢獻到后續的評估工作中,從而使得評估在項目實施過程中發揮的作用受限。
評估原計劃對學員進行3次問卷調查,第三次問卷調研時間原定在項目結束后,但受培訓時間安排和項目進度等因素的影響,培訓結束時間與項目結束時間間隔過短,短時間內讓受益人填寫多次問卷也會給他們帶來困擾,因此實際執行中只做了2次問卷調查。
盡管本次評估是在項目實施周期(2018年10月-2019年6月)開展初期介入并貫穿項目執行過程,也能較為全面地呈現項目的開展對各方帶來的影響,但難以嚴格地驗證因果關系并說明項目對利益相關者所受影響的貢獻程度。
九、評估結果應用
2018年12月,明德評估團隊在第一次實地調研結束后,從項目回應的實際社會問題、各方對項目本身及目標的認知、項目執行的調整與挑戰以及項目公益價值的實現四個方面反饋相應的發現并提出建議,為項目執行改進提供參考。根據X機構的反饋,這次評估建議為項目發展提供了中肯的意見,X機構與執行合作方詳細討論,并根據意見調整了項目執行的方式。
評估完成后,明德與X機構對評估結果應用進行了溝通,X機構反饋其項目團隊非常認可評估報告,可應用且有價值的信息多。評估團隊從行業、公益組織與資方關系等更高的層面進行了分析,使得項目團隊對共享價值有了更充分、全面的認識,并多了一個審視自身的視角。與此同時,X機構項目團隊也更自信地在工作中應用“共享價值”的概念,并應用到給其他合作伙伴開展的培訓中。X機構還表示已將評估報告分享給了合作方,社會企業Z機構的員工也反饋其對商業服務和公益項目的邊界有了更清晰的認識,有助于公司管理的完善。
目前該項目正在開展第二期,明德繼續承擔第三方的評估工作。