Auf dieser Seite sind einige Empfehlungen zusammengestellt, die Probleme mit dem Messinstrument vermeiden. Die Liste ist weder vollständig, noch gilt irgendeine Regel ohne Ausnahme – in aller Regel ersparen die folgenden Tipps aber Aufwand, Ärger und Unmut bei der Auswertung.
Die Fragen, die man im Fragebogen stellt, werden in Anlehnung an psychologische Testverfahren auch als Testfragen bezeichnet. Ihre Formulierung trägt maßgeblich zur Qualität eines Fragebogens bei. Der häufigste Fehler bei der Formulierung von Testfragen ist, dass die Frage sich zu sehr am Forschungsvorhaben orientiert („Zu wie vielen Prozent wurde Ihre Entscheidung von dem vorhin präsentierten Werbemittel beeinflusst?“). Der zweit häufigste Fehler ist, dass sich die Testfrage zu wenig am Forschungsvorhaben orientiert. Und in beiden Fällen liegt das Problem meist darin, dass Forschungsfragen und Testfragen konzeptionell nicht getrennt werden.
Wenn man sich systematisch von der Forschungsfrage zu den Testfragen durcharbeitet, dann bekommt man in aller Regel (a) gut verständliche Fragen, die (b) am Schluss bei der Auswertung auch alle notwendigen Daten liefern.
Tipp: Schreiben Sie sich Ihre Programmfragen und die zugehörigen Konstrukte einfach einmal auf. Sie werden sich wundern, welche Fußangeln Sie bis dato übersehen haben.
Die Validität des Messintruments Fragebogen ist von zwei Grundlagen abhängig: Der theoretischen Fundierung und der Verständlichkeit. Für letzteres gibt es unzählige gute Tipps in Büchern (kurze Sätze, keine unnötigen Verneinungen, einfache Begriffe, keine Fachwörter, …). Aber kein Werkzeug ist so effizient, Probleme im Fragebogen aufzudecken wie ein Pretest des Fragebogens.
Die Prüfung auf Rechtschreibung und Grammatik ist natürlich keine Aufgabe der Pretester – das sollte schon vorher erledigt sein, sonst gehen die inhaltlichen Probleme im Pretest unter.
Im Idealfall sollte jeder Teilnehmer alle Fragen vollständig ausfüllen und wenn man im Fragebogen nach dem Alter fragt, dann will man natürlich, dass der Teilnehmer nur Zahlen eintippt. Im Online-Fragebogen kann man solche Restriktionen technisch recht einfach umsetzen.
Der Tipp ist: Lassen Sie es bleiben! Wenn motivierte Teilnehmer eine Antwort offen lassen, dann haben sie dafür i.d.R. einen guten Grund, z.B. können sie die Frage nicht beantworten. Und unmotivierte Teilnehmer belasten ohnehin nur die Datenqualität.
Vor allem gibt es immer Personen, die einen Fragebogen nur ansehen möchten. Zwingt man diese zu einer Antwort, werden sie auch etwas angeben: Meistens Datenmüll. Nachher im Datensatz erkennt man das nicht mehr - nur noch die insgesamt schlechte Datenqualität. Ein leerer Datensatz hingegen ist sehr einfach zu bereinigen.
Antwortzwang und Vorgaben für die Texteingabe haben durchaus ihre Berechtigung, wenn die Antworten für Filter o.ä. benötigt werden.
Folgt man einigen generellen Empfehlungen1), so ist der Fragebogen für den Teilnehmer schlüssig, man vermindert die Anzahl von Abbrechern und vermeidet Irritationen, was i.d.R. zu besseren Daten führt.
Für die Formulierung von Fragen geben Krosnick und Presser (2010, S. 264)5) wertvolle Empfehlungen:
Es gibt unzählige Begriffe, die unterschiedliche Menschen unterschiedlich verstehen. Zum Beispiel „selten“ und „häufig“. Wenn man nun eine Frage stellt, wie häufig jemand soziale Onlinenetzwerke (wie z.B. Facebook) nutzt, dann ist „selten“ für den einen „nur einmal täglich“, für den anderen „nur einmal im Monat“ – je nachdem, was der Befragte als „normal“ empfindet. Mit einer Skala „nie/selten/gelegentlich/häufig“ würde man also nur messen, wie sich der Befragte im Vergleich zu seiner Peer Group sieht, man bekommt aber kein valides Maß für die Nutzungsmenge. Möchte man die Nutzungsmenge messen, sollte man tunlichst absolute Zahlen angeben, z.B. „etwa einmal im Monat“, „etwa einmal pro Woche“, …
Dasselbe Problem besteht übrigens genauso bei vermeintlich klaren Begriffen. Facebook-Nutzung zum Beispiel. Sollte hier nicht jeder wissen, was gemeint ist? Nein, denn der eine öffnet Facebook am Morgen, lässt die Seite den ganzen Tag im Hintergrund offen und schaut 10-mal am Tag hinein. Der andere ruft auf seinem Smartphone 10-mal am Tag die Facebook-App auf. Obwohl beide gleich häufig die Neuigkeiten abrufen (danach könnte man valide fragen), würde sich der eine bei „täglich“, der andere bei „mehrmals täglich“ einordnen – eine Fehlerquelle von 20% auf einer fünfstufigen Skala. Und wenn 90% der Teilnehmer Facebook ohnehin häufig oder sehr häufig nutzen, kann der Fehler durchaus 80% (!) der erklärten Varianz ausmachen. Mit signifikanten Korrelationen braucht man dann nicht mehr zu rechnen.
Der erste Eindruck kann den Unterschied zwischen 5% und 20% Rücklaufquote machen – dieser Abschnitt gibt einige Empfehlungen, wie man seine Teilnehmer nicht schon durch das Layout verjagt. Die folgenden Begrüßungsbildschirme desselben Projekts (vor und nach der Optimierung) verdeutlichen den Effekt einer sauberen Gestaltung.
Nicht jeder hat eine intime Beziehung mit HTML. Aber minimale Formatierungen, z.B. Absätze und Überschriften, kann jeder mit wenig Aufwand als HTML-Code programmieren (Texte im Fragebogen). Und davon sollte man unbedingt Gebrauch machen: Der Begrüßungstext auf der ersten Seite ist die Visitenkarte des Fragebogens. Ist diese Seite ordentlich gestaltet und ziert sie ein Logo des Instituts und/oder der Universität (Bilder im Fragebogen), so werden deutlich mehr Personen den Fragebogen ausfüllen.
oFb bietet alle Möglichkeiten, um hübsche Fragebögen zu gestalten. Wenn man diese Chance nicht nutzt, dann ist man für schlechten Rücklauf selbst verantwortlich. Sorgfalt sollte man natürlich auch bei der Rechtschreibung und der Darstellung der Fragen selbst walten lassen (Darstellung von Fragen optimieren).
Eine kurze Checkliste für einen ordentlichen Fragebogen (s. außerdem unten Saubere knappe Begrüßung):
What is wrong with my writing?
Well. For starters, you use too many sentences.9)
Wenn ein Teilnehmer dem Link zum Fragebogen folgt, erwartet er zunächst eine kurze Begrüßung. Der Text sollte nicht länger als 800 Zeichen sein. Weniger ist mehr – insbesondere was die Teilnahmequote betrifft! Wenn man weitere Informationen zur Verfügung stellen will oder muss, dann gehören diese auf eine eigene Seite, die man in der Begrüßung verlinkt. Folgende Bestandteile sind wichtig für die erste Seite:
Für den Inhalt des Textes gelten dieselben Empfehlung, wie auch für Einladungsmails: E-Mail-Anschreiben optimieren
Vielfach möchte man den sozialen Druck reduzieren, um möglichst ehrliche Antworten zu bekommen („es gibt keine richtigen oder falschen Antworten…“). Solch ein Hinweis wird am Besten dort platziert, wo sensible Fragen gestellt werden – in der Begrüßung wird er schnell überlesen. Eine freundliche Formulierung für den Hinweis wäre zum Beispiel:
Ihre Antworten auf unsere Fragen können nicht richtig oder falsch sein. Es geht um Ihre Auffassungen, Meinungen und Gewohnheiten. Wenn Sie sich in Ihren Antworten nicht ganz sicher sind, ist das nicht schlimm. Die meisten Fragen können und sollen „aus dem Bauch heraus“ beantwortet werden.
Formulare kennt man von vielen Gelegenheiten. Formularfelder sind meist sehr konkret beschriftet: „Geburtsjahr“, „Wohnort“, „Adresse“. Was verbinden Sie mit Formularen? Bittsteller, Papierkram und Amtsschimmel.
Wenn Sie wollen, dass die Teilnehmer Ihrer Befragung sich wohlfühlen, dann stellen Sie ihnen richtige Fragen („Wo haben Sie Ihren letzten Urlaub verbracht?“ statt „Letzter Urlaub:“) und erklären Sie kurz den Kontext Ihrer Fragen (z.B. „Im Folgenden möchten wir Ihnen gerne einige Fragen zu Ihrem letzten Urlaub stellen.“) – insbesondere wenn das Thema der Fragen wechselt („Bei den folgenden Fragen geht es um konkrete Erlebnisse in Ihrem letzten Urlaub“).
Durch echte Fragen entsteht der Hauch einer Gesprächssituation und der Teilnehmer weiß genauer, was Sie von Ihm wissen wollen. Natürlich muss man es nicht übertreiben: Die demografischen Angaben kann man natürlich weiterhin im kompakten Formularstil abfragen. Dennoch schadet ein freundliches „Zuletzt möchten wir Sie um einige Angaben zu Ihrer Person bitten“ nicht.
Halten Sie sich mit Hervorhebungen (fett, kursiv, unterstrichen) zurück.
Machen Sie sich mit den wichtigsten HTML-Tags vertraut.
<ul>
und <li>
(SelfHTML: Aufzählungslisten).<h1>
bis <h6>
– eine fett-Formatierung mittels <b>
oder <strong>
taugt für eine Überschrift nur ganz selten, weil dabei die Abstände nicht angepasst werden, von der Zugänglichkeit für ScreenReader ganz zu schweigen. Die Schriftgrößen für die Überschriften kann man bei Bedarf im Layout mittels CSS-Befehlen anpassen (SelfHTML: Überschriften).Begehen Sie nicht die typischen typografischen Anfängerfehler – sie sorgen dafür, dass ein Text nach Kraut und Rüben aussieht, anstatt nach einer professionellen Befragung.