Evaluering og effektmåling

Evalueringsdesign

Evalueringer er en måde systematisk at følge og vurdere et projekts eller et bymidtesamarbejdes fremgang. Det er vigtigt at evaluere indsatsen både undervejs og efterfølgende. Det giver nemlig et godt udgangspunkt for hurtigt at pege på initiativets resultater og for at lære og overveje ændringer undervejs og på længere sigt. Det skal dog bemærkes, at et struktureret og systematisk arbejde med evaluering og effektmålinger forudsætter en vis grad af organisering og ressourcer i et bymidtesamarbejde.

Når man skal vælge en evalueringstilgang, er det vigtigt først at overveje formålet med evalueringen. Skal evalueringen primært være rettet mod egen læring undervejs i forløbet eller skal evalueringen bruges til at dokumentere indsatserne og eventuelle virkninger på længere sigt? Evalueringsdesignet afhænger nemlig af formålet, men man kan godt kombinere forskellige tilgange i samme evaluering.

Nedenfor har vi kort beskrevet en række forskellige evalueringsmetoder. Helt overordnet er det dog altid godt at beskrive, hvad der er initiativets målsætninger, og dernæst overveje, hvordan indsatsen kan evalueres. Det kan være svært at påvise en kompleks virkning, såsom en mere levende bymidte eller et bedre byliv, men det er muligt at pege på, hvor mange der har været involveret i samarbejdet, antallet af møder, resultater af investeringer og fundraising, gennemførte delprojekter eller ud fra optællinger og spørgeskemaer at redegøre for udviklingen i antal butikker, omsætning eller borgere og turisters tilfredshed med bymidten.

Læs mere om evalueringer i hæftet Den Gode Evaluering fra Danmarks Evalueringsinstitut (2016).

Følge- og procesevaluering

I en følge- og procesevaluering er der fokus på at lære og forbedre initiativet undervejs. Helt i begyndelsen kan det for eksempel være at undersøge, hvilke forventninger parterne går ind i samarbejdet med, om der er en fælles forståelse af udfordringer og løsninger. Længere henne i forløbet kan det være relevant at undersøge, om samarbejdet virker efter hensigten, eller om der er den forestillede sammenhæng mellem indsatser (f.eks. fysiske forandringer) og de målsætninger, indsatsen har (f.eks. flere handlende i butikkerne).

En følgeevaluering kan udarbejdes på baggrund af spørgeskemaer, interessentinterview, fokusgrupper eller som et åbent punkt på et møde. Det kan fx være en opsamling på de første erfaringer med nye aktiviteter, eller det kan være spørgeskemaer og interview med interessenter gennemført af en ekstern part.

Baseline og målopfyldelse

En anden udbredt evalueringsform er en målopfyldelsesevaluering. I en målopfyldelsesevaluering kigger man på, i hvor høj grad målsætningerne for indsatsen er blevet realiseret. Målsætningerne kan være på kort sigt være et bestemt antal af møder eller aktiviteter og på længere sigt færdiggørelsen af et antal bygge- eller anlægsprojekter, et investeringsmål eller en procentandel brugere, der udtrykker høj tilfredshed med en bymidte.

For at kunne måle og vurdere indsatsens udvikling er det nyttigt at kende udgangspunktet. I evalueringssammenhæng kaldes dette en før-måling eller en baseline, og den kan både bestå af kvalitative beskrivelser af f.eks. bymidten såvel som kvantitative opgørelser af antallet af butikker, åbningstider, handlende, gående, omsætning, fælles aktiviteter og lignende indikatorer for indsatsen. Det er oplagt at tænke en eventuel foranalyse og baseline sammen.

I en målopfyldelsesevaluering kan anvendes både kvalitative og kvantitative redskaber. Det væsentlige i denne tilgang er at tage udgangspunkt i initiativets målsætning(-er) og at identificere målbare indikatorer, som kan bruges til at vurdere målopfyldelsen (se eksempler nedenfor). Jo mere præcist målsætningen er formuleret, desto mere præcist kan evalueringen dokumentere udviklingen. Det bør i den forbindelse også overvejes, om det er realistisk at indsamle den nødvendige data til at kunne evaluere målsætningen. I eksemplet nedenfor er det f.eks. usikkert, om alle butikker kan og vil udlevere tal på deres omsætning. Der kan f.eks. være butikker, der er del af en kæde, eller som af lokale konkurrencehensyn ikke vil deltage. Et alternativ kunne i den forbindelse være en ”blødere” vurdering af omsætningen indhentet via et spørgeskema (”I hvor høj grad har butikken oplevet en stigende omsætning?”).

Eksempler

Målsætning Indikatorer

At etablere en velfungerende organisation for bysamarbejdet

  • Antal medlemmer
  • Antal afholdte møder
  • Vedtægter er vedtaget
  • Fælles visionsplan er vedtaget
At øge omsætningen i byens butikker med 10 %
  • Butikkernes samlede omsætning
At øge aktivitetsniveauet i vinterhalvåret
  • Antallet af helårsåbne butikker
  • Omsætning i vinterhalvåret
At opnå 10 % færre tomme butikslejemål
  • Antallet af ubenyttede butikslejemål
  • Antallet af ubenyttede butikskvadratmeter
At tiltrække mere liv i bymidten
  • Antallet af aktiviteter
  • Antallet af handlende/besøgende
  • Antallet af nyåbnede butikker og/eller virksomheder
At opnå en fysisk forbedring af bymidten
  • Gennemførsel af arkitektkonkurrence
  • Antal påbegyndte byggeprojekter
  • Antal færdiggjorte projekter
  • Investeret eller fundraiset beløb
  • Brugertilfredshed
At skabe bedre forankring i lokalsamfundet
  • Andel af indbyggere, der foretrækker at handle lokalt

Værktøjskassen: Indsamling af viden og data

Her kan du læse om metoder til at tilegne sig viden om bymidten og til at vurdere, om eventuelle indgreb har den ønskede effekt.

Effekt- og virkningsevaluering

Man kan komme langt med en før- og eftermåling, men det er principielt svært at adskille effekterne af byens egen indsats fra de større samfundsmæssige konjunkturer og tendenser. Effekten kan derfor være over- eller undervurderet. Det er derfor også muligt at sammenligne den pågældende by med lignende byer af samme størrelse eller mere snævert udvalgte ”tvillingebyer”, som har lignende karakteristika i forhold til fx afstand til andre større byer, placering og nærhed til infrastruktur. På den måde kan man bedre vurdere indsatsens effekt. Udfordringen bliver dog arbejdet med at indsamle den omfattende datamængde, der skal til for at kunne lave disse sammenligninger, og det anbefales derfor så vidt muligt at tage udgangspunkt i datakilder, som andre vedligeholder og udgiver – f.eks. Danmarks Statistik. En anden udfordring er, at effekterne typisk tager lang tid for at slå igennem, når der f.eks. skal måles på bosætning, antal butikker, omsætning og lignende.

Læs mere om effektmåling i Socialforskningsinstituttets effektmålingsmanual.

I en virkningsevaluering er der et større fokus på, hvad der virker og under hvilke omstændigheder. Man kan sige, at virkningsevalueringen kombinerer proces-, mål- og effektevaluering. For at gennemføre en virkningsevaluering er der derfor behov for at kombinere en række metoder og tilgange, da kvalitative erfaringer og kvantitative effekter skal sammenstilles.

Forandringsteori

En pragmatisk måde at arbejde med virkningsevaluering i et bymidtesamarbejde er gennem en forandringsteori. En forandringsteori opstiller i overskuelig form de formodede sammenhænge mellem aktiviteter, resultater og virkning. Der er flere forskellige måder at lave en forandringsteori. Fælles er, at forandringsteorien skal skabe overblik over sammenhænge mellem de aktiviteter, der er i projektet, og de resultater man arbejder mod. Figuren neden for viser en tænkt forandringsteori.

 

I praksis kunne en styregruppe udvikle en forandringsteori, som f.eks. diskuteres en gang årligt, når der er nye erfaringer med indsatsen. Forandringsteorien kan være stor og kompleks eller lille og simpel, men bør bestå af nogle klare og logiske sammenhænge, som har opbakning blandt projektdeltagerne. I eksemplet ovenfor er brugt begreberne output og outcome, men man kan også nøjes med at kalde det resultater på kort og lang sigt eller ”trin på vejen”. Det er dog altid godt at overveje, hvad det er, målgruppen gør anderledes, og hvad der skaber den ønskede forandring. I den mest simple forandringsteori indgår bare aktivitet og virkning: ”Et æble om dagen giver øget sundhed”.

Selve øvelsen med at konstruere en forandringsteori er ofte gavnlig for at skabe konsensus blandt aktørerne og overblik over sammenhængen mellem de daglige aktiviteter og de store, langsigtede virkninger. Målet med forandringsteorien er at formulere nogle logiske sammenhænge mellem aktiviteter, resultater og effekten på lang sigt. Forandringsteorien kan dermed også bruges til at pege på de centrale led i projektet, og det er netop disse steder en evaluering bør fokusere på. I eksemplet ovenfor er det vigtigt at evaluere, om en forskønnelse faktisk medfører længere ophold i byen, for hvilke målgrupper og på hvilke tidspunkter. Eller om fællesspisning rent faktisk er medvirkende til at etablere et mere positivt syn på byen. Er det ikke tilfældet, bør man prioritere om eller overveje, om aktiviteten skal ændres eller måske markedsføres bedre.

Læs mere om forandringsteorier i Københavns Kommunes Håndbog i forandringsteori.