Skillnad mellan versioner av "Kontroll av data"

Nuvarande version från 25 augusti 2023 kl. 12.20

Överlämning av data

Så fort en forskare har laddat upp ett datamaterial i DORIS formulär kan DAU ladda ner filerna för kontroll. Storleksgränsen för datamaterial som laddas upp i formuläret är i dagsläget 500 MB per uppladdad fil. Större filer laddas upp till SND via STFP-konto.

Checklista för kontroll av data

Du hittar Checklista: kontroll av data här.

Här finns sidor om olika typer av data: Datatyper

Kontroll av data

Det är viktigt att forskningsdata som tillgängliggörs genom SND:s forskningsdataportal kan förstås och återanvändas av andra. Forskningsdata som laddas ner eller förmedlas via forskningsdataportalen ska därför ha genomgått följande kontroller:

Kontroll av att leveransen är komplett: Leveransen innehåller alla data som är tänkta att förmedlas tillsammans med den dokumentation som behövs för att data ska kunna återanvändas.
Viruskontroll: Levererade filer innehåller inte virus.
Kontroll av läsbarhet: Levererade filer går att öppna och läsa.
Filerna är i ett lämpligt format för återanvändning och tillgängliggörande. Filer som inte har lämpligt format kan konverteras till ett mer lämpligt format. (lägg in länk till hemsidan ang filformat)
Originalversionen av data finns sparad på en säker lagringsyta.

Rent praktiskt kan du göra så här:

1. Ladda ner beskrivna data

Om forskaren skickade in sina data via DORIS kan du öppna databeskrivningen i DORIS och ladda ner filerna. Filerna hamnar också automatiskt på DAU:ens lagringsyta, om det finns en egen lagringsyta kopplad till DORIS. Om forskaren lämnade in data på något annat sätt ska datamaterialet laddas upp på lagringsytan.
Saknas lärosätesspecifik lagring kopplad till DORIS så lagras filerna tillsvidare på SND:s lagringsyta.

2. Kontrollera data

Man kontrollerar data för att säkerställa att levererad data går att förstå och kan återanvändas av sekundäranvändare. Några frågor att ställa sig kan vara: Är datasetet tillräckligt komplett för att det ska vara möjligt att förstå vad det innehåller? Är det sannolikt att en sekundärforskare kan återanvända materialet?

Varje datamaterial är unikt, så den här bedömningen måste ske från fall till fall.

Finns alla nödvändiga filer?

Information om att leveransen är komplett kan fås från metadata om datasetet och tillhörande dokumentation.

Ibland kan det vara svårt att avgöra från befintliga metadata i formuläret om allt finns inskickat. Ett dataset kan innehålla flera datafiler och om detaljer om vad som ingår i datapaketet saknas vid överlämnandet så måste man kontakta forskaren för bekräftelse och/eller förklaring om de olika dataseten och tillhörande dokumentation. Vid kontakt med forskare är det bra att uppmuntra till att beskriva innehållet av datamaterialet och dokumentationen så noggrant som möjligt.

Ofta överlämnas bara en del av det datamaterial som produceras under forskningsprojekt. Så länge materialet går att återanvända kan du fortsätta processen med att publicera det, men forskaren kan alltid uppmuntras att publicera mer än vad som krävs av till exempel en tidskrift, i syfte att underlätta för sekundäranvändare och möjliggöra för nya forskningsfrågor. Har forskaren laddat upp all data som hör till projektet/studien, eller tänker hen ladda upp flera dataset i framtiden? Det kan vara värt att förklara för forskaren att det går att skapa flera dataset under samma beskrivning. Risken finns att flera databeskrivningar skapas med överlappande datainnehåll.

Går filerna att öppna?

Om studien innehåller väldigt många filer kan du göra ett urval, men se gärna till att öppna några filer av varje filtyp.

Filformat för publicering av data och för långtidslagring

När data publiceras ska de vara i ett så öppet format som möjligt, för att göra det enkelt att ta del av data. Öppna filformat är en öppen standard, det vill säga:

formatet baseras på en öppen standard
är oberoende av plattform/en specifik programvara
är öppet dokumenterat, och
underhålls av en oberoende organisation.

Många filformat är låsta till olika grad. Några är väldokumenterade och plattform-oberoende, men underhålls av en privat aktör. Andra är helt låsta till en plattform (oftast programvaror som formatets ägare ger ut). Några format är öppna, men är så dåligt dokumenterade att de inte riktigt räknas som öppna.
Det är alltid bäst att få data i öppna format som lätt kan användas av andra. Om inte detta är fallet kan man be forskaren konvertera till något mer öppet, om det går. Ibland går det inte att konvertera inkomna data, på grund av krångliga format. I dessa fall är det ett val mellan att publicera data i ett krångligt format som bara kan användas av andra experter eller att inte alls publicera.
I vissa fall kan man få data i format som inte är det mest öppna formatet, men som är en de facto standard, dvs. formatet används av och stöd av de flesta aktörerna inom forskningsområdet. I dessa fall får man avväga för- och nackdelarna med att konvertera till ett mer öppet format för publicering.
Alla frågor som ställs för publiceringsformat är också relevanta för format för långtidslagring. Här kan man också föredra text-baserade format för att göra det enklare för framtida användare att läsa in data. Riksarkivet föreslår ett antal kriterier för arkivbeständiga format, och dataformat som uppfyller dessa kriterier kan anses också vara lämpliga för långtidsbevarande.
SND har publicerat en generell lista över rekommenderade filformat för överlämning av data: https://snd.gu.se/sv/filformat Läs våra best practice guider för mer information om format och hantering av olika typer av data: https://snd.gu.se/sv/datahantering/guider

Filnamn och mapp- eller databasstruktur

Förutom att kunna öppna filer behöver man också kunna förstå vad filerna innehåller och kunna navigera i mappstrukturen eller databasen om en sådan finns. Räcker nuvarande filnamn för att kunna förstå deras innehåll? Finns det en mappstruktur, och i så fall, går den att navigera och förstå? I båda fall kan informationen vara en del i en dokumentationsfil, eller även finnas i fil- och mapp-namnen.

Finns det tillräckligt med metadata för att kunna publicera och återanvända materialet?

Minimikraven av metadata för publicering i SND:s forskningsdataportal uppfylls automatiskt om alla obligatoriska fält i databeskrivningen fylls i, men det är upp till dig att avgöra om det behövs mer metadata. För även om det går att publicera datamaterialet med endast obligatoriska metadata, så kan det vara värt att be forskaren komplettera databeskrivningen så att det blir lättare för en sekundäranvändare att hitta studien och förstå dess innehåll. Ibland kan du komplettera med metadata från tillhörande dokumentation, men kom ihåg att det som kan innebära en stor arbetsinsats för dig kanske inte är särskilt svårt eller tidskrävande för forskaren, eller vice versa (ibland går det enklast och snabbast att själv komplettera studiebeskrivningen).

Finns det tillräcklig dokumentation?

Vad som är tillräckligt dokumentation varierar från fall till fall och kan t.ex. skilja sig åt mellan olika ämnesområden och typer av data. Dokumentationen är ofta nödvändig för att en sekundäranvändare ska kunna förstå forskningsmaterialet. Exempel på dokumentation är kodböcker, frågeformulär, publikationer, undersökningsrapporter och tekniska rapporter, beskrivningar av fotografier.

En viktig del av dokumentationen är ofta den tillhörande artikel eller rapport som publiceras i samband med publikationen av data. Man kan räkna artikeln som en del av dokumentationen om den på något sätt förklarar datamaterialets innehåll. Det är dock viktigt att artikeln går att nå, det vill säga att den finns öppet tillgänglig. Är artikeln hos ett förlag som kräver prenumeration behöver de delar från artikeln som beskriver data sparas ner tillsammans med datafilerna.

Lär mer om tillhörande dokumentation här.

@@ Rad 1: / Rad 1: @@
 == Överlämning av data ==
-Så fort en forskare har lämnat ett datamaterial till DAU genom [[Mitt SND]] blir det möjligt för DAU att ladda ner datamaterialet för kontroll. Storleksgränsen för datamaterial som lämnas in på det här sättet är i dagsläget på 100Mb, men kommer att utökas. Det innebär att för närvarande måste större datamängder lämnas in till DAU:en på andra sätt, t.ex. via extern hårddisk eller Boxkonto. I takt med att varje DAU tillämpar egna lagringslösningar kommer denna gräns att höjas och andra lösningar för större material kan komma på plats.
+Så fort en forskare har laddat upp ett datamaterial i DORIS formulär kan DAU ladda ner filerna för kontroll. Storleksgränsen för datamaterial som laddas upp i formuläret är i dagsläget 500 MB per uppladdad fil. Större filer laddas upp till SND via STFP-konto.
-Notera att kravet är att data måste finnas lagrade på en säker lagringsyta. Däremot föreligger inget krav från SND på någon särskild lagringslösning, eftersom ansvaret för lagring ligger på respektive lärosäte. Observera att för certifiering finns det särskilda krav på lagringslösningar och strukturer vilka SND kan rådge kring om så önskas.
+==Checklista för kontroll av data==
+Du hittar [[Checklista: kontroll av data]] här.
+Här finns sidor om olika typer av data: [[Datatyper]]
 == Kontroll av data ==
+Det är viktigt att forskningsdata som tillgängliggörs genom SND:s forskningsdataportal kan förstås och återanvändas av andra. Forskningsdata som laddas ner eller förmedlas via forskningsdataportalen ska därför ha genomgått följande kontroller:
-Det är viktigt att forskningsdata som förmedlas genom SND:s forskningsdataportal kan förstås och återanvändas av andra. Forskningsdata som laddas ned eller förmedlas via SND:s forskningsdataportal ska ha genomgått följande kontroller:
-* '''Kontroll att leveransen är komplett''': Leveransen innehåller alla data avsedda för förmedling tillsammans med dokumentation som är nödvändig för återanvändning.
+* '''Kontroll av att leveransen är komplett''': Leveransen innehåller alla data som är tänkta att förmedlas tillsammans med den dokumentation som behövs för att data ska kunna återanvändas.
-* '''Viruskontroll''': Levererade filer innehåller inga virus.
+* '''Viruskontroll''': Levererade filer innehåller inte virus.
 * '''Kontroll av läsbarhet''': Levererade filer går att öppna och läsa.
-* '''Filerna är i ett lämpligt format''' för återanvändning och tillgängliggörande.
+* '''Filerna är i ett lämpligt format''' för återanvändning och tillgängliggörande. Filer som inte har lämpligt format kan konverteras till ett mer lämpligt format. (lägg in länk till hemsidan ang filformat)
 * '''Originalversionen av data finns sparad''' på en säker lagringsyta.
+== Rent praktiskt kan du göra så här: ==
+===1. Ladda ner beskrivna data===
+Om forskaren skickade in sina data via DORIS kan du öppna databeskrivningen i [https://doris.snd.gu.se/ DORIS] och ladda ner filerna. Filerna hamnar också automatiskt på DAU:ens lagringsyta, om det finns en egen lagringsyta kopplad till DORIS. Om forskaren lämnade in data på något annat sätt ska datamaterialet laddas upp på lagringsytan.<br>
+Saknas lärosätesspecifik lagring kopplad till DORIS så lagras filerna tillsvidare på SND:s lagringsyta.<br>
+===2. Kontrollera data ===
+Man kontrollerar data för att säkerställa att levererad data går att förstå och kan återanvändas av sekundäranvändare. Några frågor att ställa sig kan vara: Är datasetet tillräckligt komplett för att det ska vara möjligt att förstå vad det innehåller? Är det sannolikt att en sekundärforskare kan återanvända materialet?
+Varje datamaterial är unikt, så den här bedömningen måste ske från fall till fall.
+==== Finns alla nödvändiga filer? ====
+Information om att leveransen är komplett kan fås från metadata om datasetet och tillhörande dokumentation.
+Ibland kan det vara svårt att avgöra från befintliga metadata i formuläret om allt finns inskickat. Ett dataset kan innehålla flera datafiler och om detaljer om vad som ingår i datapaketet saknas vid överlämnandet så måste man kontakta forskaren för bekräftelse och/eller förklaring om de olika dataseten och tillhörande dokumentation. Vid kontakt med forskare är det bra att uppmuntra till att beskriva innehållet av datamaterialet och dokumentationen så noggrant som möjligt.
+Ofta överlämnas bara en del av det datamaterial som produceras under forskningsprojekt. Så länge materialet går att återanvända kan du fortsätta processen med att publicera det, men forskaren kan alltid uppmuntras att publicera mer än vad som krävs av till exempel en tidskrift, i syfte att underlätta för sekundäranvändare och möjliggöra för nya forskningsfrågor. Har forskaren laddat upp all data som hör till projektet/studien, eller tänker hen ladda upp flera dataset i framtiden? Det kan vara värt att förklara för forskaren att det går att skapa flera dataset under samma beskrivning. Risken finns att flera databeskrivningar skapas med överlappande datainnehåll.
-Rent praktiskt kan man göra så här:
+==== Går filerna att öppna? ====
+Om studien innehåller väldigt många filer kan du göra ett urval, men se gärna till att öppna några filer av varje filtyp.
-. Öppna studien via SND:s gränssnitt
+=====Filformat för publicering av data och för långtidslagring=====
+När data publiceras ska de vara i ett så öppet format som möjligt, för att göra det enkelt att ta del av data. Öppna filformat är en öppen standard, det vill säga:
+# formatet baseras på en öppen standard
+# är oberoende av plattform/en specifik programvara
+# är öppet dokumenterat, och
+# underhålls av en oberoende organisation. <br>
-. Ladda ner filer och kontrollera:
- a. Är datasetet tillräckligt komplett för att det ska vara möjligt att förstå vad det innehåller? Är det sannolikt att en sekundärforskare kan återanvända materialet? Varje datamaterial är unikt så den här bedömningen måste ske från fall till fall.
+Många filformat är låsta till olika grad. Några är väldokumenterade och plattform-oberoende, men underhålls av en privat aktör. Andra är helt låsta till en plattform (oftast programvaror som formatets ägare ger ut). Några format är öppna, men är så dåligt dokumenterade att de inte riktigt räknas som öppna. <br>
-** Går alla filer att öppna? Är det väldigt många filer kan du göra ett urval, men se gärna till att öppna någon/några filer av varje filtyp. Skulle en viss filtyp inte kunna öppnas kan anledningen vara att du inte har rätt programvara installerad. Ta reda på om så är fallet. Är du lite tekniskt lagd så kan en annan lösning vara att skriva ett script som testar att alla filer i en mapp går att öppna.
+Det är alltid bäst att få data i öppna format som lätt kan användas av andra. Om inte detta är fallet kan man be forskaren konvertera till något mer öppet, om det går. Ibland går det inte att konvertera inkomna data, på grund av krångliga format. I dessa fall är det ett val mellan att publicera data i ett krångligt format som bara kan användas av andra experter eller att inte alls publicera.<br>
-** Finns alla nödvändiga filer? Information om kompletthet kan fås från metadata om datasetet och tillhörande dokumentation. Ofta deponeras bara en del av datamaterialet som producerades under forskningsprojektet. Så länge materialet går att återanvända kan man fortsätta processen med att publicera det, men forskaren kan alltid uppmuntras att publicera mer än vad som krävs av till exempel tidskriften i syfte att underlätta för en sekundäranvändare.
+I vissa fall kan man få data i format som inte är det mest öppna formatet, men som är en de facto standard, dvs. formatet används av och stöd av de flesta aktörerna inom forskningsområdet. I dessa fall får man avväga för- och nackdelarna med att konvertera till ett mer öppet format för publicering.<br>
-** Finns det tillräckligt med metadata för att kunna publicera materialet? Minimikraven för publicering av metadata i SND:s forskningsdataportal uppfylls automatiskt genom att alla obligatoriska fält fylls i, men det är upp till dig att avgöra om det behövs mer metadata. För även om det går att publicera datamaterialet med endast obligatoriska metadata kan det vara värt att be forskaren komplettera för att göra det lättare för en sekundäranvändare att hitta studien. Ibland kan du komplettera med metadata från tillhörande dokumentation, men kom ihåg att det som kan innebära en stor arbetsinsats för dig kanske inte är särskilt svårt eller tidskrävande för forskaren, eller vice versa (för ibland är det enklast och snabbast att själv komplettera studiebeskrivningen).
+Alla frågor som ställs för publiceringsformat är också relevanta för format för långtidslagring. Här kan man också föredra text-baserade format för att göra det enklare för framtida användare att läsa in data. Riksarkivet föreslår ett antal [https://riksarkivet.se/medium-och-formatval#Allm%C3%A4nna kriterier för arkivbeständiga format], och dataformat som uppfyller dessa kriterier kan anses också vara lämpliga för långtidsbevarande.<br>
-** Finns det tillräcklig dokumentation? Vad som är tillräcklig information kan skilja sig åt mellan olika ämnesområden. Det är viktigt att det finns dokumentation som beskriver datamaterialets innehåll - t.ex. fältbeskrivningar om det finns tabulära data, beskrivningar av fotografier, osv.
+SND har publicerat en generell lista över rekommenderade filformat för överlämning av data: https://snd.gu.se/sv/filformat
-** Data som laddas upp via [[Mitt SND]] kontrolleras för virus.
+Läs våra best practice guider för mer information om format och hantering av olika typer av data: https://snd.gu.se/sv/datahantering/guider
+=====Filnamn och mapp- eller databasstruktur=====
+Förutom att kunna öppna filer behöver man också kunna förstå vad filerna innehåller och kunna navigera i mappstrukturen eller databasen om en sådan finns. Räcker nuvarande filnamn för att kunna förstå deras innehåll? Finns det en mappstruktur, och i så fall, går den att navigera och förstå? I båda fall kan informationen vara en del i en dokumentationsfil, eller även finnas i fil- och mapp-namnen.
-=== Går data att läsa? ===
+==== Finns det tillräckligt med metadata för att kunna publicera och återanvända materialet?====
+Minimikraven av metadata för publicering i SND:s forskningsdataportal uppfylls automatiskt om alla obligatoriska fält i databeskrivningen fylls i, men det är upp till dig att avgöra om det behövs mer metadata. För även om det går att publicera datamaterialet med endast obligatoriska metadata, så kan det vara värt att be forskaren komplettera databeskrivningen så att det blir lättare för en sekundäranvändare att hitta studien och förstå dess innehåll. Ibland kan du komplettera med metadata från tillhörande dokumentation, men kom ihåg att det som kan innebära en stor arbetsinsats för dig kanske inte är särskilt svårt eller tidskrävande för forskaren, eller vice versa (ibland går det enklast och snabbast att själv komplettera studiebeskrivningen).
-Forskningsmaterial som lämnas till SND ska lagras på sådant sätt att framtida återanvändning möjliggörs. Detta innebär att åtgärder görs på flera plan.
+<span id="dokumentation"></span>
-;Bitstream :Läsbar – att lagringsmediet är kompatibelt med aktuell hårdvara eller migreras vid behov.
-;Filnivå :I ett lämpligt format – att teckentabeller, komprimeringsalgoritmer och binärkod är läsbar och begriplig och att formatet är kompatibelt med operativsystemet.
-;Representation :Begriplig - att den samling filer som tillsammans utgör en begriplig enhet bevaras tillsammans med en innehållsbeskrivning (t.ex. text, foto).
+==== Finns det tillräcklig dokumentation?====
+Vad som är tillräckligt dokumentation varierar från fall till fall och kan t.ex. skilja sig åt mellan olika ämnesområden och typer av data. Dokumentationen är ofta nödvändig för att en sekundäranvändare ska kunna förstå forskningsmaterialet. Exempel på dokumentation är kodböcker, frågeformulär, publikationer, undersökningsrapporter och tekniska rapporter, beskrivningar av fotografier.
-=== Är data begripliga? ===
+En viktig del av dokumentationen är ofta den tillhörande artikel eller rapport som publiceras i samband med publikationen av data. Man kan räkna artikeln som en del av dokumentationen om den på något sätt förklarar datamaterialets innehåll. '''Det är dock viktigt att artikeln går att nå, det vill säga att den finns öppet tillgänglig'''. Är artikeln hos ett förlag som kräver prenumeration behöver de delar från artikeln som beskriver data sparas ner tillsammans med datafilerna.
-Förutom originaldata/rådata är det nödvändigt att dokumentation som hör till forskningsprojektet levereras tillsammans med data. Dokumentationen är ofta nödvändig för att en sekundäranvändare ska kunna förstå forskningsmaterialet. Exempel på dokumentation är kodböcker, frågeformulär, publikationer, undersökningsrapporter och tekniska rapporter.
+Lär mer om tillhörande dokumentation [[Dokumentation|här]].