Błąd poznawczy - Cognitive bias

Błąd poznawczy to systematyczny wzorzec odchylenia od normy lub racjonalności w osądzie. Jednostki tworzą własną „subiektywną rzeczywistość” na podstawie własnego postrzegania wkładu. Indywidualna konstrukcja rzeczywistości, a nie obiektywny wkład, może dyktować jej zachowanie w świecie. Błędy poznawcze mogą więc czasami prowadzić do zniekształceń percepcyjnych, niedokładnego osądu, nielogicznej interpretacji lub tego, co ogólnie nazywamy irracjonalnością .

Chociaż może się wydawać, że takie błędne wyobrażenia byłyby aberracją, uprzedzenia mogą pomóc ludziom znaleźć podobieństwa i skróty, które pomogą w nawigacji w typowych sytuacjach życiowych.

Niektóre błędy poznawcze są przypuszczalnie adaptacyjne. Błędy poznawcze mogą prowadzić do bardziej efektywnych działań w danym kontekście. Ponadto dopuszczenie błędów poznawczych umożliwia szybsze podejmowanie decyzji, co może być pożądane, gdy terminowość jest bardziej wartościowa niż dokładność, co ilustrują heurystyki . Inne błędy poznawcze są „produktem ubocznym” ograniczeń ludzkiego przetwarzania, wynikających z braku odpowiednich mechanizmów umysłowych ( ograniczona racjonalność ), wpływu konstytucji i stanu biologicznego jednostki (patrz poznanie ucieleśnione ) lub po prostu z ograniczonej zdolności do przetwarzania informacji .

W ciągu ostatnich sześciu dekad badań nad ludzkim osądem i podejmowaniem decyzji w kognitywistyce , psychologii społecznej i ekonomii behawioralnej zidentyfikowano stale ewoluującą listę błędów poznawczych . Daniel Kahneman i Tversky (1996) twierdzą, że błędy poznawcze mają skuteczne implikacje praktyczne w obszarach obejmujących ocenę kliniczną, przedsiębiorczość, finanse i zarządzanie.

Przegląd

Pojęcie tendencyjności poznawczej zostało wprowadzone przez Amosa Tversky'ego i Daniela Kahnemana w 1972 roku i wyrosło z ich doświadczenia z nielicznością lub niezdolnością do intuicyjnego rozumowania z większymi rzędami wielkości . Tversky, Kahneman i współpracownicy wykazali kilka powtarzalnych sposobów, w jakie ludzkie osądy i decyzje różnią się od teorii racjonalnego wyboru . Tversky i Kahneman wyjaśnili różnice między ludźmi w ocenie i podejmowaniu decyzji za pomocą heurystyk. Heurystyki obejmują skróty myślowe, które zapewniają szybkie oszacowanie możliwości niepewnych zdarzeń. Heurystyki są łatwe do obliczenia przez mózg, ale czasami wprowadzają „poważne i systematyczne błędy”.

Na przykład heurystyka reprezentatywności jest zdefiniowana jako „Skłonność do oceny częstotliwości lub prawdopodobieństwa” zdarzenia na podstawie zakresu, w którym zdarzenie „przypomina typowy przypadek”.

„Problem Lindy” ilustruje heurystykę reprezentatywności (Tversky i Kahneman, 1983). Uczestnicy otrzymali opis „Lindy”, który sugeruje, że Linda może być feministką (np. mówi się, że jest zaniepokojona dyskryminacją i kwestiami sprawiedliwości społecznej). Następnie zapytano je, czy uważają, że Linda jest bardziej skłonna do bycia (a) „kasjerką bankową” czy (b) „kasjerką bankową i aktywną w ruchu feministycznym”. Większość wybrała odpowiedź (b). Ten błąd (matematycznie odpowiedź (b) nie może być bardziej prawdopodobna niż odpowiedź (a)) jest przykładem „błędu koniunkcji ”; Tversky i Kahneman twierdzili, że respondenci wybrali (b), ponieważ wydawało się to bardziej „reprezentatywne” lub typowe dla osób, które pasują do opisu Lindy. Heurystyka reprezentatywności może prowadzić do błędów, takich jak uruchamianie stereotypów i niedokładne osądy innych (Haselton i in., 2005, s. 726).

Krytycy Kahnemana i Tversky'ego, tacy jak Gerd Gigerenzer , alternatywnie argumentowali, że heurystyka nie powinna prowadzić nas do postrzegania ludzkiego myślenia jako pełnego irracjonalnych błędów poznawczych. Powinni raczej postrzegać racjonalność jako narzędzie adaptacyjne, a nie tożsame z zasadami logiki formalnej czy rachunkiem prawdopodobieństwa . Niemniej eksperymenty takie jak „problem Lindy” przekształciły się w heurystyczne i tendencyjne programy badawcze, które rozszerzyły się poza psychologię akademicką na inne dyscypliny, w tym medycynę i nauki polityczne.

Rodzaje

Błędy można wyróżnić w wielu wymiarach. Pełniejszą listę zawiera lista błędów poznawczych . Przykłady błędów poznawczych obejmują:

  • Błędy specyficzne dla grup (takie jak ryzykowna zmiana ) w porównaniu z uprzedzeniami na poziomie indywidualnym.
  • Błędy, które wpływają na podejmowanie decyzji , w przypadku których należy wziąć pod uwagę atrakcyjność opcji (np. błąd dotyczący kosztów utopionych ).
  • Błędy, takie jak iluzoryczna korelacja , które wpływają na ocenę tego, jak prawdopodobne jest coś lub czy jedna rzecz jest przyczyną innej.
  • Błędy wpływające na pamięć , takie jak błąd spójności (pamiętanie przeszłych postaw i zachowań jako bardziej podobnych do obecnych postaw).
  • Błędy odzwierciedlające motywację podmiotu , na przykład pragnienie pozytywnego obrazu siebie prowadzącego do egocentrycznego nastawienia i unikania nieprzyjemnego dysonansu poznawczego .

Inne uprzedzenia wynikają ze szczególnego sposobu, w jaki mózg postrzega, tworzy wspomnienia i dokonuje osądów. To rozróżnienie jest czasami określane jako „ gorące poznanie ” w porównaniu z „zimnym poznaniem”, ponieważ rozumowanie motywowane może obejmować stan pobudzenia . Wśród „zimnych” uprzedzeń,

  • niektóre wynikają z ignorowania istotnych informacji (np. zaniedbanie prawdopodobieństwa ),
  • niektóre dotyczą decyzji lub osądu, na które wpływają nieistotne informacje (na przykład efekt ramowania, w którym ten sam problem otrzymuje różne odpowiedzi w zależności od tego, jak jest opisany; lub stronniczość rozróżnienia, w której wybory przedstawione razem mają inne wyniki niż te przedstawione osobno), oraz
  • inni przywiązują nadmierną wagę do nieistotnej, ale istotnej cechy problemu (np. zakotwiczenia ).

Fakt, że niektóre uprzedzenia odzwierciedlają motywację, w szczególności motywację do posiadania pozytywnego nastawienia do samego siebie, wyjaśnia fakt, że wiele uprzedzeń jest nastawionych na siebie lub nakierowanych na siebie (np. złudzenie asymetrycznego wglądu , nastawienie na siebie ). Istnieją również uprzedzenia w sposobie, w jaki badani oceniają grupy własne lub grupy zewnętrzne; ocena w grupach bardziej zróżnicowany i „lepsze” w wielu aspektach, nawet wtedy, gdy grupy te są arbitralnie ( ingroup polaryzacji , efekt jednorodności grupy obcej polaryzacji ).

Niektóre błędy poznawcze należą do podgrupy tendencyjności uwagi , która odnosi się do zwracania większej uwagi na określone bodźce. Wykazano na przykład, że osoby uzależnione od alkoholu i innych narkotyków zwracają większą uwagę na bodźce związane z narkotykami. Typowymi testami psychologicznymi mierzącymi te uprzedzenia są zadanie Stroopa i zadanie sondy kropkowej .

Podatność jednostek na niektóre rodzaje błędów poznawczych można zmierzyć za pomocą Testu Refleksji Poznawczej (CRT) opracowanego przez Shane'a Fredericka (2005).

Lista uprzedzeń

Poniżej znajduje się lista najczęściej badanych błędów poznawczych:

Nazwa Opis
Podstawowy błąd atrybucji (FAE, czyli błąd korespondencji ) Tendencja do nadmiernego podkreślania opartych na osobowości wyjaśnień zachowań obserwowanych u innych. Jednocześnie jednostki nie doceniają roli i mocy sytuacyjnych wpływów na to samo zachowanie. Klasyczne badanie Edwarda E. Jonesa i Victora A. Harrisa (1967) ilustruje FAE. Pomimo uświadomienia sobie, że kierunek przemówienia celu (pro-Castro/anty-Castro) został przydzielony pisarzowi, uczestnicy ignorowali naciski sytuacyjne i przypisywali autorowi postawy pro-Castro, gdy przemówienie reprezentowało takie nastawienie.
Ukryte nastawienie (inaczej ukryty stereotyp, nieświadome nastawienie) Tendencja do przypisywania pozytywnych lub negatywnych cech grupie osób. Może to być całkowicie nierzeczywiste lub być nadużyciem uogólnieniem częstej cechy w grupie na każdą jednostkę tej grupy.
Błąd torowania Tendencja do wpływania na pierwsze przedstawienie problemu w celu stworzenia naszego z góry przyjętego wyobrażenia o nim, które następnie możemy dostosować za pomocą późniejszych informacji.
Błąd potwierdzenia Tendencja do wyszukiwania lub interpretacji informacji w sposób, który potwierdza własne uprzedzenia i dyskredytuje informacje, które nie wspierają początkowej opinii. Wiąże się z koncepcją dysonansu poznawczego , w którym jednostki mogą redukować niespójność, szukając informacji potwierdzających ich poglądy (Jermias, 2001, s. 146).
Stronniczość powinowactwa Skłonność do przychylnego nastawienia w stosunku do ludzi najbardziej takich jak my.
Nastawienie na egoizm Skłonność do przyjmowania większej odpowiedzialności za sukcesy niż za porażki. Może również objawiać się tendencją ludzi do oceniania niejednoznacznych informacji w sposób korzystny dla ich zainteresowań.
Stronniczość wiary Tendencja do oceny logicznej siły argumentu w oparciu o aktualne przekonania i postrzeganą wiarygodność wniosku.
Ramy Tendencja do zawężania opisu sytuacji w celu doprowadzenia do wybranego wniosku. Ten sam podkład może być różnie oprawiony, co prowadzi do różnych wniosków.
Odchylenie wsteczne Tendencja do postrzegania przeszłych wydarzeń jako przewidywalnych. Znany też jako efekt „Wiedziałem to wszystko przez cały czas”.
Ucieleśnione poznanie Skłonność do selektywności w percepcji, uwadze, podejmowaniu decyzji i motywacji w oparciu o stan biologiczny organizmu.
Odchylenie zakotwiczenia Niezdolność ludzi do dokonania odpowiednich zmian od punktu wyjścia, aby doprowadzić do ostatecznej odpowiedzi, może prowadzić do podejmowania nieoptymalnych decyzji. Zakotwiczenie wpływa na podejmowanie decyzji w negocjacjach, diagnozach medycznych, a także wyrokach sądowych.
Nastawienie na status quo Tendencja do trzymania się obecnej sytuacji, a nie sytuacji alternatywnej, aby uniknąć ryzyka i straty ( niechęć do straty ). W uprzedzeniu status quo decydent ma zwiększoną skłonność do decydowania o alternatywie, ponieważ jest to opcja domyślna lub status quo. Wykazano, że wpływa na różne ważne decyzje gospodarcze, na przykład wybór ubezpieczenia samochodu lub usługi elektrycznej.
Zbytnia pewność siebie Skłonność do nadmiernego zaufania do własnej zdolności do podejmowania właściwych decyzji. Ludzie mieli tendencję do przeceniania swoich zdolności i umiejętności decydentów. Zobacz także efekt Dunninga-Krugera .

Praktyczne znaczenie

Wiele instytucji społecznych przy dokonywaniu racjonalnych osądów opiera się na jednostkach.

Reżim regulacji papierów wartościowych w dużej mierze zakłada, że ​​wszyscy inwestorzy działają jako osoby całkowicie racjonalne. Prawdę mówiąc, prawdziwi inwestorzy napotykają ograniczenia poznawcze wynikające z uprzedzeń, heurystyki i efektów ramek.

Na przykład sprawiedliwy proces ławy przysięgłych wymaga, aby ława przysięgłych ignorowała nieistotne cechy sprawy, odpowiednio ważyła istotne cechy, rozważała różne możliwości, otwartość i opierała się błędnym przekonaniom, takim jak odwoływanie się do emocji . Różnorodne uprzedzenia wykazane w tych eksperymentach psychologicznych sugerują, że ludziom często nie uda się zrobić wszystkich tych rzeczy. Jednak nie robią tego w systematyczny, ukierunkowany sposób, który jest przewidywalny.

Błędy poznawcze są również związane z uporczywym myśleniem opartym na teorii wszystkiego , z dużymi problemami społecznymi, takimi jak uprzedzenia, a także działają jako przeszkoda w akceptacji wiedzy naukowej nieintuicyjnej przez opinię publiczną.

Jednak w niektórych dyscyplinach akademickich badanie stronniczości jest bardzo popularne. Na przykład stronniczość jest szeroko rozpowszechnionym i dobrze zbadanym zjawiskiem, ponieważ większość decyzji dotyczących umysłów i serc przedsiębiorców jest niewykonalna obliczeniowo.

Błędy poznawcze mogą powodować inne problemy, które pojawiają się w życiu codziennym. Jedno z badań wykazało związek między błędem poznawczym, w szczególności błędem podejścia, a kontrolą hamowania ilości niezdrowych przekąsek, które dana osoba zjadłaby. Odkryli, że uczestnicy, którzy jedli więcej niezdrowych przekąsek, mieli zwykle mniejszą kontrolę hamującą i bardziej polegali na błędnym podejściu. Inni postawili również hipotezę, że błędy poznawcze mogą być powiązane z różnymi zaburzeniami odżywiania oraz z tym, jak ludzie postrzegają swoje ciało i obraz swojego ciała.

Argumentowano również, że błędy poznawcze mogą być wykorzystywane w destrukcyjny sposób. Niektórzy uważają, że są ludzie u władzy, którzy wykorzystują błędy poznawcze i heurystyki, aby manipulować innymi, aby mogli osiągnąć swoje cele końcowe. Niektóre leki i inne zabiegi opieki zdrowotnej opierają się na zniekształceniach poznawczych, aby przekonać innych, którzy są podatni na zniekształcenia poznawcze, do korzystania z ich produktów. Wielu postrzega to jako wykorzystanie naturalnej walki o osąd i podejmowanie decyzji. Uważają również, że to rząd jest odpowiedzialny za uregulowanie tych wprowadzających w błąd reklam.

Błędy poznawcze wydają się również odgrywać rolę w cenie i wartości sprzedaży nieruchomości. Uczestnikom eksperymentu pokazano nieruchomość mieszkalną. Następnie pokazano im inną własność, zupełnie niezwiązaną z pierwszą. Poproszono ich, aby powiedzieli, jaka ich zdaniem będzie wartość i cena sprzedaży drugiej nieruchomości. Odkryli, że pokazanie uczestnikom niepowiązanej właściwości miało wpływ na to, jak ocenili drugą właściwość.

Redukcja

Ponieważ powodują one systematyczne błędy , zniekształceń poznawczych nie można zrekompensować za pomocą mądrej techniki tłumu , polegającej na uśrednianiu odpowiedzi kilku osób. Debiasing to redukcja uprzedzeń w ocenie i podejmowaniu decyzji poprzez zachęty, zachęty i szkolenia. Łagodzenie uprzedzeń poznawczych i modyfikacja uprzedzeń poznawczych są formami debiasingu, które mają szczególne zastosowanie w przypadku uprzedzeń poznawczych i ich skutków. Prognozowanie klasy referencyjnej to metoda systematycznego obniżania wartości szacunków i decyzji w oparciu o to, co Daniel Kahneman nazwał poglądem zewnętrznym .

Podobnie jak Gigerenzer (1996), Haselton i in. (2005) stwierdzają, że treść i kierunek tendencyjności poznawczych nie są „arbitralne” (s. 730). Ponadto można kontrolować błędy poznawcze. Jedna z technik debiasingu ma na celu zmniejszenie uprzedzeń poprzez zachęcanie osób do stosowania przetwarzania kontrolowanego w porównaniu z przetwarzaniem automatycznym. W odniesieniu do zmniejszenia FAE , zachęty pieniężne i informowanie uczestników, że będą pociągnięci do odpowiedzialności za swoje atrybucje, zostały powiązane ze wzrostem dokładnych atrybucji. Wykazano również, że trening zmniejsza błędy poznawcze. Carey K. Morewedge i współpracownicy (2015) stwierdzili, że uczestnicy badania narażeni na jednorazowe interwencje szkoleniowe, takie jak filmy edukacyjne i gry usprawiedliwiające, które uczyły strategii łagodzenia, wykazywali znaczne zmniejszenie liczby sześciu błędów poznawczych natychmiast i do 3 miesięcy później .

Modyfikacja tendencyjności poznawczej odnosi się do procesu modyfikacji tendencyjności poznawczych u zdrowych ludzi, a także odnosi się do rozwijającego się obszaru psychologicznych (niefarmaceutycznych) terapii lęku, depresji i uzależnień, zwanych terapią modyfikacji tendencyjności poznawczej (CBMT). CBMT to podgrupa terapii w ramach rosnącego obszaru terapii psychologicznych opartych na modyfikowaniu procesów poznawczych z towarzyszącymi lekami i bez terapii psychoterapią, czasami określanych jako stosowane terapie przetwarzania poznawczego (ACPT). Chociaż modyfikacja tendencyjności poznawczej może odnosić się do modyfikowania procesów poznawczych u zdrowych osób, CBMT jest rozwijającą się dziedziną terapii psychologicznej opartej na dowodach, w której procesy poznawcze są modyfikowane w celu złagodzenia cierpienia na poważną depresję , lęki i uzależnienia. Techniki CBMT to terapie wspomagane technologią, które są dostarczane za pośrednictwem komputera ze wsparciem klinicznym lub bez niego. CBM łączy dowody i teorię z modelu poznawczego lęku, neuronauki poznawczej i modeli uwagi.

Modyfikacja tendencyjności poznawczej została również wykorzystana, aby pomóc tym, którzy cierpią z powodu przekonań obsesyjno-kompulsywnych i zaburzeń obsesyjno-kompulsywnych. Terapia ta wykazała, że ​​zmniejsza obsesyjno-kompulsywne przekonania i zachowania.

Częste teoretyczne przyczyny niektórych błędów poznawczych

Bias wynika z różnych procesów, które czasami są trudne do odróżnienia. Obejmują one:

Indywidualne różnice w uprzedzeniach poznawczych

Wydaje się, że ludzie wykazują stabilne indywidualne różnice pod względem podatności na błędy decyzyjne, takie jak zbytnia pewność siebie , dyskontowanie w czasie i ślepy punkt błędu . To powiedziawszy, te stabilne poziomy uprzedzeń w jednostkach można zmienić. Uczestnicy eksperymentów, którzy oglądali filmy szkoleniowe i grali w debiasingowe gry, wykazywali średnie lub duże spadki, zarówno natychmiast, jak i do trzech miesięcy później, w zakresie, w jakim wykazywali podatność na sześć błędów poznawczych: zakotwiczenie , błąd martwego pola, błąd potwierdzenia , podstawowy błąd atrybucji , stronniczość projekcji i reprezentatywność .

Indywidualne różnice w uprzedzeniach poznawczych są również powiązane z różnymi poziomami zdolności i funkcji poznawczych. Test refleksji poznawczej (CRT) został wykorzystany, aby pomóc zrozumieć związek między uprzedzeniami poznawczymi a zdolnościami poznawczymi. Uzyskano niejednoznaczne wyniki podczas używania Testu Refleksji Poznawczej do zrozumienia umiejętności. Wydaje się jednak, że istnieje korelacja; ci, którzy uzyskają wyższy wynik w teście Cognitive Reflection, mają wyższe zdolności poznawcze i umiejętności racjonalnego myślenia. To z kolei pomaga przewidzieć wyniki w testach poznawczych i testach heurystycznych. Osoby z wyższymi wynikami CRT są w stanie lepiej odpowiedzieć na różne testy i zadania heurystyczne i poznawcze.

Wiek to kolejna indywidualna różnica, która ma wpływ na podatność na błędy poznawcze. Osoby starsze są bardziej podatne na błędy poznawcze i mają mniejszą elastyczność poznawczą. Jednak starsze osoby były w stanie zmniejszyć swoją podatność na błędy poznawcze podczas trwających badań. W tych eksperymentach zarówno młodzi, jak i starsi dorośli wykonali zadanie ramowe. Młodsi dorośli mieli większą elastyczność poznawczą niż starsi dorośli. Elastyczność poznawcza jest powiązana z pomocą w przezwyciężaniu istniejących uprzedzeń.

Krytyka

Krytyka wobec teorii tendencyjności poznawczej opiera się zwykle na fakcie, że obie strony debaty często twierdzą, że myśli drugiej strony podlegają ludzkiej naturze i wynikowi tendencyjności poznawczej, jednocześnie twierdząc, że ich własny punkt widzenia jest ponad tendencyjnością poznawczą i prawidłowym sposób na „przezwyciężenie” problemu. Ta rozbieżność wiąże się z bardziej fundamentalną kwestią, która wynika z braku konsensusu w tej dziedzinie, tworząc w ten sposób argumenty, których można niefalsyfikować, aby potwierdzić każdy sprzeczny punkt widzenia.

Gerd Gigerenzer jest jednym z głównych przeciwników tendencyjności poznawczej i heurystyki. Gigerenzer wierzy, że błędy poznawcze nie są uprzedzeniami, ale praktycznymi zasadami lub, jak to ujął, „ przeczuciami ”, które mogą nam pomóc w podejmowaniu trafnych decyzji w naszym życiu. Jego pogląd rzuca o wiele bardziej pozytywne światło na błędy poznawcze niż wielu innych badaczy. Wielu postrzega błędy poznawcze i heurystyki jako irracjonalne sposoby podejmowania decyzji i osądów. Gigerenzer twierdzi, że stosowanie heurystyk i błędów poznawczych jest racjonalne i pomocne w podejmowaniu decyzji w naszym codziennym życiu.

Zobacz też

Dalsza lektura

  • Eiser JR, van der Pligt J (1988). Postawy i decyzje . Londyn: Routledge. Numer ISBN 978-0-415-01112-9.
  • Dobra C (2006). Własny umysł: jak twój mózg zniekształca i oszukuje . Cambridge, Wielka Brytania: Icon Books. Numer ISBN 1-84046-678-2.
  • Gilowicz T (1993). Skąd wiemy, co nie jest: omylność ludzkiego rozumu w życiu codziennym . Nowy Jork: Wolna prasa . Numer ISBN 0-02-911706-2.
  • Haselton MG, Pokrzywa D, Andrews PW (2005). „Ewolucja uprzedzeń poznawczych”. (PDF) . W Buss DM (red.). Podręcznik psychologii ewolucyjnej . Hoboken: Wiley. s. 724-746.
  • Heuera Jr RJ (1999). „Psychologia Analizy Wywiadu. Centralna Agencja Wywiadowcza” .
  • Kahnemana D (2011). Myślenie, szybkie i wolne . Nowy Jork: Farrar, Straus i Giroux. Numer ISBN 978-0-374-27563-1.
  • Kida T (2006). Nie wierz we wszystko, co myślisz: 6 podstawowych błędów, które popełniamy w myśleniu . Nowy Jork: Prometeusz. Numer ISBN 978-1-59102-408-8.
  • Krueger JI, Funder DC (czerwiec 2004). „Ku zrównoważonej psychologii społecznej: przyczyny, konsekwencje i lekarstwa na problemowe podejście do zachowań społecznych i poznania”. Nauki behawioralne i o mózgu . 27 (3): 313–27, dyskusja 328–76. doi : 10.1017/s0140525x04000081 . PMID  15736870 . S2CID  6260477 .
  • Nisbett R, Ross L (1980). Wnioskowanie na ludziach: Strategie i wady ludzkiego osądu . Englewood Cliffs, NJ: Prentice-Hall. Numer ISBN 978-0-13-445130-5.
  • Piatelli-Palmarini M (1994). Nieuniknione iluzje: jak błędy rozumu rządzą naszymi umysłami . Nowy Jork: John Wiley i synowie. Numer ISBN 0-471-15962-X.
  • Stanowicz K (2009). Czego brakuje w testach inteligencji: psychologia racjonalnej myśli . New Haven (CT): Yale University Press. Numer ISBN 978-0-300-12385-2. Lay podsumowanie (PDF) (21 listopada 2010).
  • Tavris C, Aronson E (2007). Popełniono błędy (ale nie przeze mnie): dlaczego usprawiedliwiamy głupie wierzenia, złe decyzje i krzywdzące czyny . Orlando, Floryda: Harcourt Books . Numer ISBN 978-0-15-101098-1.
  • Młody S (2007). Mikrokomunikaty — dlaczego doskonałe przywództwo jest poza słowami . Nowy Jork: McGraw-Hill. Numer ISBN 978-0-07-146757-5.

Bibliografia

Zewnętrzne linki