Åtgärder

Skillnad mellan versioner av "Kontroll av data"

Från DAU-handboken

 
(64 mellanliggande versioner av 8 användare visas inte)
Rad 1: Rad 1:
== Överlämning av data ==
== Överlämning av data ==


Så fort en forskare har lämnat över ett datamaterial till DAU genom [[Mitt SND]] blir det möjligt för DAU att ladda ner datamaterialet för kontroll. Storleksgränsen för datamaterial som lämnas in på det här sättet är i dagsläget 100 MB. Det innebär att större datamängder för närvarande måste lämnas in till DAU:en på andra sätt, t.ex. via en extern hårddisk eller Box-konto. I takt med att varje DAU tillämpar egna lagringslösningar kommer storleksgränsen att höjas och andra lösningar för större material kan komma på plats.  
Så fort en forskare har laddat upp ett datamaterial i DORIS formulär kan DAU ladda ner filerna för kontroll. Storleksgränsen för datamaterial som laddas upp i formuläret är i dagsläget 500 MB per uppladdad fil. Större filer laddas upp till SND via STFP-konto.


Notera att kravet är att data måste finnas lagrade på en säker lagringsyta. Däremot ställer SND inte krav på någon särskild lagringslösning eftersom ansvaret för lagring ligger på respektive lärosäte. För certifiering via [https://www.coretrustseal.org/ CoreTrustSeal] (se även [[Internationella samarbeten]] ) finns det däremot särskilda krav på lagringslösningar och strukturer, och vid önskemål kan SND ge information och råd om dessa lösningar.
==Checklista för kontroll av data==
Du hittar [[Checklista: kontroll av data]] här.
 
Här finns sidor om olika typer av data: [[Datatyper]]


== Kontroll av data ==
== Kontroll av data ==
Rad 11: Rad 14:
* '''Viruskontroll''': Levererade filer innehåller inte virus.
* '''Viruskontroll''': Levererade filer innehåller inte virus.
* '''Kontroll av läsbarhet''': Levererade filer går att öppna och läsa.
* '''Kontroll av läsbarhet''': Levererade filer går att öppna och läsa.
* '''Filerna är i ett lämpligt format''' för återanvändning och tillgängliggörande. Filer som inte har lämpligt format kan konverteras till ett mer lämpligt format.
* '''Filerna är i ett lämpligt format''' för återanvändning och tillgängliggörande. Filer som inte har lämpligt format kan konverteras till ett mer lämpligt format. (lägg in länk till hemsidan ang filformat)
* '''Originalversionen av data finns sparad''' på en säker lagringsyta.
* '''Originalversionen av data finns sparad''' på en säker lagringsyta.


== Rent praktiskt kan du göra så här: ==
===1. Ladda ner beskrivna data===
Om forskaren skickade in sina data via DORIS kan du öppna databeskrivningen i [https://doris.snd.gu.se/ DORIS] och ladda ner filerna. Filerna hamnar också automatiskt på DAU:ens lagringsyta, om det finns en egen lagringsyta kopplad till DORIS. Om forskaren lämnade in data på något annat sätt ska datamaterialet laddas upp på lagringsytan.<br>
Saknas lärosätesspecifik lagring kopplad till DORIS så lagras filerna tillsvidare på SND:s lagringsyta.<br>
===2. Kontrollera data ===
Man kontrollerar data för att säkerställa att levererad data går att förstå och kan återanvändas av sekundäranvändare. Några frågor att ställa sig kan vara: Är datasetet tillräckligt komplett för att det ska vara möjligt att förstå vad det innehåller? Är det sannolikt att en sekundärforskare kan återanvända materialet?
Varje datamaterial är unikt, så den här bedömningen måste ske från fall till fall.
==== Finns alla nödvändiga filer? ====
Information om att leveransen är komplett kan fås från metadata om datasetet och tillhörande dokumentation.
Ibland kan det vara svårt att avgöra från befintliga metadata i formuläret om allt finns inskickat. Ett dataset kan innehålla flera datafiler och om detaljer om vad som ingår i datapaketet saknas vid överlämnandet så måste man kontakta forskaren för bekräftelse och/eller förklaring om de olika dataseten och tillhörande dokumentation. Vid kontakt med forskare är det bra att uppmuntra till att beskriva innehållet av datamaterialet och dokumentationen så noggrant som möjligt.
 
Ofta överlämnas bara en del av det datamaterial som produceras under forskningsprojekt. Så länge materialet går att återanvända kan du fortsätta processen med att publicera det, men forskaren kan alltid uppmuntras att publicera mer än vad som krävs av till exempel en tidskrift, i syfte att underlätta för sekundäranvändare och möjliggöra för nya forskningsfrågor. Har forskaren laddat upp all data som hör till projektet/studien, eller tänker hen ladda upp flera dataset i framtiden? Det kan vara värt att förklara för forskaren att det går att skapa flera dataset under samma beskrivning. Risken finns att flera databeskrivningar skapas med överlappande datainnehåll.
==== Går filerna att öppna? ====
Om studien innehåller väldigt många filer kan du göra ett urval, men se gärna till att öppna några filer av varje filtyp.
=====Filformat för publicering av data och för långtidslagring=====
När data publiceras ska de vara i ett så öppet format som möjligt, för att göra det enkelt att ta del av data. Öppna filformat är en öppen standard, det vill säga:


Rent praktiskt kan du göra så här:
# formatet baseras på en öppen standard
# är oberoende av plattform/en specifik programvara
# är öppet dokumenterat, och
# underhålls av en oberoende organisation. <br>


1. Om forskaren skickade in sina data via Mitt SND kan du öppna studien via [https://snd.gu.se/sv/dashboard Mitt SND] och ladda ner filerna (Se bild 1). Mer info om nuvarande mappstrukturen för data som laddas ner på det här sättet finns på [[Rutiner för lagring av deponerade data#mappstruktur|Rutiner för lagring av deponerade data]]. Om forskaren lämnade in data på något annat sätt ska datamaterialet laddas upp på lagringsytan.


[[Fil:Ladda ner deponerade data.png|920px|ram|centrerad|Bild 1]]
Många filformat är låsta till olika grad. Några är väldokumenterade och plattform-oberoende, men underhålls av en privat aktör. Andra är helt låsta till en plattform (oftast programvaror som formatets ägare ger ut). Några format är öppna, men är så dåligt dokumenterade att de inte riktigt räknas som öppna. <br>
Det är alltid bäst att få data i öppna format som lätt kan användas av andra. Om inte detta är fallet kan man be forskaren konvertera till något mer öppet, om det går. Ibland går det inte att konvertera inkomna data, på grund av krångliga format. I dessa fall är det ett val mellan att publicera data i ett krångligt format som bara kan användas av andra experter eller att inte alls publicera.<br>
I vissa fall kan man få data i format som inte är det mest öppna formatet, men som är en de facto standard, dvs. formatet används av och stöd av de flesta aktörerna inom forskningsområdet. I dessa fall får man avväga för- och nackdelarna med att konvertera till ett mer öppet format för publicering.<br>
Alla frågor som ställs för publiceringsformat är också relevanta för format för långtidslagring. Här kan man också föredra text-baserade format för att göra det enklare för framtida användare att läsa in data. Riksarkivet föreslår ett antal [https://riksarkivet.se/medium-och-formatval#Allm%C3%A4nna kriterier för arkivbeständiga format], och dataformat som uppfyller dessa kriterier kan anses också vara lämpliga för långtidsbevarande.<br>
SND har publicerat en generell lista över rekommenderade filformat för överlämning av data: https://snd.gu.se/sv/filformat
Läs våra best practice guider för mer information om format och hantering av olika typer av data: https://snd.gu.se/sv/datahantering/guider


2. Kontrollera:
=====Filnamn och mapp- eller databasstruktur=====
Förutom att kunna öppna filer behöver man också kunna förstå vad filerna innehåller och kunna navigera i mappstrukturen eller databasen om en sådan finns. Räcker nuvarande filnamn för att kunna förstå deras innehåll? Finns det en mappstruktur, och i så fall, går den att navigera och förstå? I båda fall kan informationen vara en del i en dokumentationsfil, eller även finnas i fil- och mapp-namnen.


    '''i.''' Finns alla nödvändiga filer? Information om att leveransen är komplett kan fås från metadata om datasetet och tillhörande dokumentation. Ofta överlämnas bara en del av det datamaterial som producerades under forskningsprojektet. Så länge materialet går att återanvända kan du fortsätta processen med att publicera det, men forskaren kan alltid uppmuntras att publicera mer än vad som krävs av till exempel för en tidskrift, i syfte att underlätta för sekundäranvändare. Har forskaren laddat upp allt data som hör till projektet/studien, eller tänker hen ladda upp flera dataset i framtiden? Det kan vara värt att förklara för forskaren att det går att skapa flera dataset under samma beskrivning. Risken finns att flera databeskrivningar skapas med överlappande datainnehåll.
==== Finns det tillräckligt med metadata för att kunna publicera och återanvända materialet?====
Minimikraven av metadata för publicering i SND:s forskningsdataportal uppfylls automatiskt om alla obligatoriska fält i databeskrivningen fylls i, men det är upp till dig att avgöra om det behövs mer metadata. För även om det går att publicera datamaterialet med endast obligatoriska metadata, så kan det vara värt att be forskaren komplettera databeskrivningen så att det blir lättare för en sekundäranvändare att hitta studien och förstå dess innehåll. Ibland kan du komplettera med metadata från tillhörande dokumentation, men kom ihåg att det som kan innebära en stor arbetsinsats för dig kanske inte är särskilt svårt eller tidskrävande för forskaren, eller vice versa (ibland går det enklast och snabbast att själv komplettera studiebeskrivningen).


    '''ii.''' Är leveransen fri från virus? Tanken är att det ska finnas en centraliserad lösning för viruskontroll i framtiden, men tills dess behöver DAU:er lösa problemet med sina egna IT-avdelningar.
<span id="dokumentation"></span>


    '''iii.''' Går alla filer att öppna? Om studien innehåller väldigt många filer kan du göra ett urval, men se gärna till att öppna någon/några filer av varje filtyp. Om det inte går att öppna en viss filtyp kan det bero på att du inte har rätt programvara installerad. Ta reda på om så är fallet. Är du tekniskt lagd så kan en annan lösning vara att skriva ett script som testar att alla filer i en mapp går att öppna.
==== Finns det tillräcklig dokumentation?====
   
Vad som är tillräckligt dokumentation varierar från fall till fall och kan t.ex. skilja sig åt mellan olika ämnesområden och typer av data. Dokumentationen är ofta nödvändig för att en sekundäranvändare ska kunna förstå forskningsmaterialet. Exempel på dokumentation är kodböcker, frågeformulär, publikationer, undersökningsrapporter och tekniska rapporter, beskrivningar av fotografier.
    '''iv.''' Finns det tillräckligt med metadata för att kunna publicera materialet? Minimikraven för publicering av metadata i SND:s forskningsdataportal uppfylls automatiskt om alla obligatoriska fält i databeskrivningen fylls i, men det är upp till dig att avgöra om det behövs mer metadata. För även om det går att publicera datamaterialet med endast obligatoriska metadata, så kan det vara värt att be forskaren komplettera databeskrivningen så att det blir lättare för en sekundäranvändare att hitta studien. Ibland kan du komplettera med metadata från tillhörande dokumentation, men kom ihåg att det som kan innebära en stor arbetsinsats för dig kanske inte är särskilt svårt eller tidskrävande för forskaren, eller vice versa (ibland går det enklast och snabbast att själv komplettera studiebeskrivningen).


    '''v.''' Finns det tillräcklig dokumentation? Vad som är tillräckligt kan skilja sig åt mellan olika ämnesområden. Dokumentationen är ofta nödvändig för att en sekundäranvändare ska kunna förstå forskningsmaterialet. Exempel på dokumentation är kodböcker, frågeformulär, publikationer, undersökningsrapporter och tekniska rapporter, beskrivningar av fotografier.  
En viktig del av dokumentationen är ofta den tillhörande artikel eller rapport som publiceras i samband med publikationen av data. Man kan räkna artikeln som en del av dokumentationen om den på något sätt förklarar datamaterialets innehåll. '''Det är dock viktigt att artikeln går att nå, det vill säga att den finns öppet tillgänglig'''. Är artikeln hos ett förlag som kräver prenumeration behöver de delar från artikeln som beskriver data sparas ner tillsammans med datafilerna.


En fråga man ska hålla i åtanken: Är datasetet tillräckligt komplett för att det ska vara möjligt att förstå vad det innehåller? Är det sannolikt att en sekundärforskare kan återanvända materialet? Varje datamaterial är unikt, så den här bedömningen måste ske från fall till fall.
Lär mer om tillhörande dokumentation [[Dokumentation|här]].

Nuvarande version från 25 augusti 2023 kl. 12.20

Överlämning av data

Så fort en forskare har laddat upp ett datamaterial i DORIS formulär kan DAU ladda ner filerna för kontroll. Storleksgränsen för datamaterial som laddas upp i formuläret är i dagsläget 500 MB per uppladdad fil. Större filer laddas upp till SND via STFP-konto.

Checklista för kontroll av data

Du hittar Checklista: kontroll av data här.

Här finns sidor om olika typer av data: Datatyper

Kontroll av data

Det är viktigt att forskningsdata som tillgängliggörs genom SND:s forskningsdataportal kan förstås och återanvändas av andra. Forskningsdata som laddas ner eller förmedlas via forskningsdataportalen ska därför ha genomgått följande kontroller:

  • Kontroll av att leveransen är komplett: Leveransen innehåller alla data som är tänkta att förmedlas tillsammans med den dokumentation som behövs för att data ska kunna återanvändas.
  • Viruskontroll: Levererade filer innehåller inte virus.
  • Kontroll av läsbarhet: Levererade filer går att öppna och läsa.
  • Filerna är i ett lämpligt format för återanvändning och tillgängliggörande. Filer som inte har lämpligt format kan konverteras till ett mer lämpligt format. (lägg in länk till hemsidan ang filformat)
  • Originalversionen av data finns sparad på en säker lagringsyta.

Rent praktiskt kan du göra så här:

1. Ladda ner beskrivna data

Om forskaren skickade in sina data via DORIS kan du öppna databeskrivningen i DORIS och ladda ner filerna. Filerna hamnar också automatiskt på DAU:ens lagringsyta, om det finns en egen lagringsyta kopplad till DORIS. Om forskaren lämnade in data på något annat sätt ska datamaterialet laddas upp på lagringsytan.
Saknas lärosätesspecifik lagring kopplad till DORIS så lagras filerna tillsvidare på SND:s lagringsyta.

2. Kontrollera data

Man kontrollerar data för att säkerställa att levererad data går att förstå och kan återanvändas av sekundäranvändare. Några frågor att ställa sig kan vara: Är datasetet tillräckligt komplett för att det ska vara möjligt att förstå vad det innehåller? Är det sannolikt att en sekundärforskare kan återanvända materialet?

Varje datamaterial är unikt, så den här bedömningen måste ske från fall till fall.

Finns alla nödvändiga filer?

Information om att leveransen är komplett kan fås från metadata om datasetet och tillhörande dokumentation.

Ibland kan det vara svårt att avgöra från befintliga metadata i formuläret om allt finns inskickat. Ett dataset kan innehålla flera datafiler och om detaljer om vad som ingår i datapaketet saknas vid överlämnandet så måste man kontakta forskaren för bekräftelse och/eller förklaring om de olika dataseten och tillhörande dokumentation. Vid kontakt med forskare är det bra att uppmuntra till att beskriva innehållet av datamaterialet och dokumentationen så noggrant som möjligt.

Ofta överlämnas bara en del av det datamaterial som produceras under forskningsprojekt. Så länge materialet går att återanvända kan du fortsätta processen med att publicera det, men forskaren kan alltid uppmuntras att publicera mer än vad som krävs av till exempel en tidskrift, i syfte att underlätta för sekundäranvändare och möjliggöra för nya forskningsfrågor. Har forskaren laddat upp all data som hör till projektet/studien, eller tänker hen ladda upp flera dataset i framtiden? Det kan vara värt att förklara för forskaren att det går att skapa flera dataset under samma beskrivning. Risken finns att flera databeskrivningar skapas med överlappande datainnehåll.

Går filerna att öppna?

Om studien innehåller väldigt många filer kan du göra ett urval, men se gärna till att öppna några filer av varje filtyp.

Filformat för publicering av data och för långtidslagring

När data publiceras ska de vara i ett så öppet format som möjligt, för att göra det enkelt att ta del av data. Öppna filformat är en öppen standard, det vill säga:

  1. formatet baseras på en öppen standard
  2. är oberoende av plattform/en specifik programvara
  3. är öppet dokumenterat, och
  4. underhålls av en oberoende organisation.


Många filformat är låsta till olika grad. Några är väldokumenterade och plattform-oberoende, men underhålls av en privat aktör. Andra är helt låsta till en plattform (oftast programvaror som formatets ägare ger ut). Några format är öppna, men är så dåligt dokumenterade att de inte riktigt räknas som öppna.
Det är alltid bäst att få data i öppna format som lätt kan användas av andra. Om inte detta är fallet kan man be forskaren konvertera till något mer öppet, om det går. Ibland går det inte att konvertera inkomna data, på grund av krångliga format. I dessa fall är det ett val mellan att publicera data i ett krångligt format som bara kan användas av andra experter eller att inte alls publicera.
I vissa fall kan man få data i format som inte är det mest öppna formatet, men som är en de facto standard, dvs. formatet används av och stöd av de flesta aktörerna inom forskningsområdet. I dessa fall får man avväga för- och nackdelarna med att konvertera till ett mer öppet format för publicering.
Alla frågor som ställs för publiceringsformat är också relevanta för format för långtidslagring. Här kan man också föredra text-baserade format för att göra det enklare för framtida användare att läsa in data. Riksarkivet föreslår ett antal kriterier för arkivbeständiga format, och dataformat som uppfyller dessa kriterier kan anses också vara lämpliga för långtidsbevarande.
SND har publicerat en generell lista över rekommenderade filformat för överlämning av data: https://snd.gu.se/sv/filformat Läs våra best practice guider för mer information om format och hantering av olika typer av data: https://snd.gu.se/sv/datahantering/guider

Filnamn och mapp- eller databasstruktur

Förutom att kunna öppna filer behöver man också kunna förstå vad filerna innehåller och kunna navigera i mappstrukturen eller databasen om en sådan finns. Räcker nuvarande filnamn för att kunna förstå deras innehåll? Finns det en mappstruktur, och i så fall, går den att navigera och förstå? I båda fall kan informationen vara en del i en dokumentationsfil, eller även finnas i fil- och mapp-namnen.

Finns det tillräckligt med metadata för att kunna publicera och återanvända materialet?

Minimikraven av metadata för publicering i SND:s forskningsdataportal uppfylls automatiskt om alla obligatoriska fält i databeskrivningen fylls i, men det är upp till dig att avgöra om det behövs mer metadata. För även om det går att publicera datamaterialet med endast obligatoriska metadata, så kan det vara värt att be forskaren komplettera databeskrivningen så att det blir lättare för en sekundäranvändare att hitta studien och förstå dess innehåll. Ibland kan du komplettera med metadata från tillhörande dokumentation, men kom ihåg att det som kan innebära en stor arbetsinsats för dig kanske inte är särskilt svårt eller tidskrävande för forskaren, eller vice versa (ibland går det enklast och snabbast att själv komplettera studiebeskrivningen).

Finns det tillräcklig dokumentation?

Vad som är tillräckligt dokumentation varierar från fall till fall och kan t.ex. skilja sig åt mellan olika ämnesområden och typer av data. Dokumentationen är ofta nödvändig för att en sekundäranvändare ska kunna förstå forskningsmaterialet. Exempel på dokumentation är kodböcker, frågeformulär, publikationer, undersökningsrapporter och tekniska rapporter, beskrivningar av fotografier.

En viktig del av dokumentationen är ofta den tillhörande artikel eller rapport som publiceras i samband med publikationen av data. Man kan räkna artikeln som en del av dokumentationen om den på något sätt förklarar datamaterialets innehåll. Det är dock viktigt att artikeln går att nå, det vill säga att den finns öppet tillgänglig. Är artikeln hos ett förlag som kräver prenumeration behöver de delar från artikeln som beskriver data sparas ner tillsammans med datafilerna.

Lär mer om tillhörande dokumentation här.