Bounded optimality

“The question of whether a decision, judgement, or memory is “correct” (in a normative way) is usually secondary to the question of whether that decision, judgement, or memory is helpful in the current situation.”

Source: Cognitive Bias Part 1 by Krisztina Szerovay

Ongeduld en optimale besluitvorming

---

Een belangrijk type beslisproces onder onzekerheid dat binnen de psychologie onderzocht wordt, is de perceptuele besluitvorming, waarbij een proefpersoon een interpretatie van ruizige sensorische informatie moet kiezen. Het wiskundige standaardmodel voor dit soort besluitprocessen neemt aan dat ongeduld geen rol speelt in de besluitvorming. In andere woorden, proefpersonen zullen altijd dezelfde hoeveelheid informatie voor een besluit eisen, onafhankelijk van de hoeveelheid tijd die ze al aan de besluitvorming hebben besteed. Een aantal neurowetenschappelijke studies hebben onlangs gesteld dat ongeduld echter tot een optimalere besluitvorming zal leiden; proefpersonen zullen dus minder informatie voor een besluit eisen, naarmate ze meer tijd aan een besluit hebben besteed.

Hoewel deze ongeduld-hypothese intuïtief lijkt, blijkt de theoretische en empirische ondersteuning zwakker te zijn dan door haar voorstanders beweerd wordt. Uit een bespreking van de literatuur blijkt immers dat er een aantal tekortkomingen zijn in zowel opzet en uitvoering van experimenten, alsmede in het gebruik van kwantitatieve modellen in de studies die de ongeduld-hypothese steunen. Verder laat een theoretische analyse zien dat ongeduld alleen bij hoge taakmoeilijkheid tot duidelijk optimaler gedrag leidt dan bij het standaardmodel. Daarbovenop kon een hier beschreven experiment de voorspelling van de ongeduld-hypothese, die stelt dat dat proefpersonen hun gedrag optimaal aan hun omgeving aanpassen, niet bevestigen. Samenvattend levert het standaardmodel, dat inmiddels veertig jaar oud is, dus nog steeds de beste beschrijving van perceptuele besluitvorming.

Source: Promoties en raties 2018

Decisions under scarce resources and bounded optimality

Bounded optimality refers to the goal of optimizing the expected utility of a reasoning system, given the environment in which the system is immersed. This goal differs from the related work of investigators (including John March and Herbert Simon) who have proposed heuristic approaches to rationality under bounded resources. To compute the expected utility of an agent's behavior at design time, we must consider the set of responses a system makes to a sequence of challenges over time. We must also identify the design actions that are available for optimizing an agent's behavior by considering the set of controllable parameters and invariant constraints in the hardware or software architecture of the agent. Specifying different sets of constraints on the constitution of a reasoning system defines different classes of bounded optimality.

Source: Bounded%20optimality by

It provides an appealing way to bridge the gap between Marr’s computational and algorithmic level (Griffiths, Lieder, and Goodman 2014). As mentioned in (1) bounded-optimality is necessary as a normative framework for artificial agents because the costs of computation are an important factor to decision-making in real-world environments. But humans also have costs to computation that arise from intrinsic biological bounds, rather than the environment, so an interesting question is what are the fundamental limitations on human intelligence that arise from this and how close can human bounded-optimality ever get to AI bounded-optimality? Being able to take into account computational constraints at varying levels of abstraction may be useful for progress on this question.

Source: Bounded Optimality by Smitha Milli