martedì 21 marzo 2017

23 laws for the future of A.I.

Research Issues


1) Research Goal: The goal of AI research should be to create not undirected intelligence, but beneficial intelligence. 2) Research Funding: Investments in AI should be accompanied by funding for research on ensuring its beneficial use, including thorny questions in computer science, economics, law, ethics, and social studies, such as:
  • How can we make future AI systems highly robust, so that they do what we want without malfunctioning or getting hacked?
  • How can we grow our prosperity through automation while maintaining people’s resources and purpose?
  • How can we update our legal systems to be more fair and efficient, to keep pace with AI, and to manage the risks associated with AI?
  • What set of values should AI be aligned with, and what legal and ethical status should it have?
3) Science-Policy Link: There should be constructive and healthy exchange between AI researchers and policy-makers.
4) Research Culture: A culture of cooperation, trust, and transparency should be fostered among researchers and developers of AI.
5) Race Avoidance: Teams developing AI systems should actively cooperate to avoid corner-cutting on safety standards.

Ethics and Values


6) Safety: AI systems should be safe and secure throughout their operational lifetime, and verifiably so where applicable and feasible. 7) Failure Transparency: If an AI system causes harm, it should be possible to ascertain why.
8) Judicial Transparency: Any involvement by an autonomous system in judicial decision-making should provide a satisfactory explanation auditable by a competent human authority.
9) Responsibility: Designers and builders of advanced AI systems are stakeholders in the moral implications of their use, misuse, and actions, with a responsibility and opportunity to shape those implications.
10) Value Alignment: Highly autonomous AI systems should be designed so that their goals and behaviors can be assured to align with human values throughout their operation.
11) Human Values: AI systems should be designed and operated so as to be compatible with ideals of human dignity, rights, freedoms, and cultural diversity.
12) Personal Privacy: People should have the right to access, manage and control the data they generate, given AI systems’ power to analyze and utilize that data.
13) Liberty and Privacy: The application of AI to personal data must not unreasonably curtail people’s real or perceived liberty.
14) Shared Benefit: AI technologies should benefit and empower as many people as possible.
15) Shared Prosperity: The economic prosperity created by AI should be shared broadly, to benefit all of humanity.
16) Human Control: Humans should choose how and whether to delegate decisions to AI systems, to accomplish human-chosen objectives.
17) Non-subversion: The power conferred by control of highly advanced AI systems should respect and improve, rather than subvert, the social and civic processes on which the health of society depends.
18) AI Arms Race: An arms race in lethal autonomous weapons should be avoided.

Longer-term Issues


19) Capability Caution: There being no consensus, we should avoid strong assumptions regarding upper limits on future AI capabilities. 20) Importance: Advanced AI could represent a profound change in the history of life on Earth, and should be planned for and managed with commensurate care and resources.
21) Risks: Risks posed by AI systems, especially catastrophic or existential risks, must be subject to planning and mitigation efforts commensurate with their expected impact.
22) Recursive Self-Improvement: AI systems designed to recursively self-improve or self-replicate in a manner that could lead to rapidly increasing quality or quantity must be subject to strict safety and control measures.
23) Common Good: Superintelligence should only be developed in the service of widely shared ethical ideals, and for the benefit of all humanity rather than one state or organization.

The Repugnant Conclusion

“For any possible population of at least ten billion people, all with a very high quality of life, there must be some much larger imaginable population whose existence, if other things are equal, would be better even though its members have lives that are barely worth living” 

D. Parfit, Reasons and Persons

https://plato.stanford.edu/entries/repugnant-conclusion/ 

Odradek

Alcuni dicono che la parola Odradek derivi dallo slavo e cercano di chiarire su questa base la formazione della parola. Altri invece ritengono che derivi dal tedesco, e che dallo slavo sia solo influenzata. L’incertezza di entrambe le interpretazioni però fa a buon diritto concludere che nessuna delle due sia corretta, anche perché nessuna permette di trovare un senso.
Naturalmente nessuno si occuperebbe di tali questioni se non esistesse davvero un essere che si chiama Odradek. A prima vista sembra un rocchetto piatto di filo, a forma di stella, e in effetti sembra anche avere del filo arrotolato; si tratta però solo di pezzetti di filo strappati, vecchi, annodati e anche ingarbugliati fra loro, di tipi e colori dei più disparati. Non è però solo un rocchetto, ma dal centro della stella spunta un piccolo bastoncino obliquo, e a questo bastoncino un altro se ne aggiunge ad angolo retto. Aiutandosi da un lato con quest’ultimo bastoncino e dall’altro con un raggio della stella, il tutto può stare in piedi come su due gambe.
Si sarebbe tentati di credere che una tale creatura abbia avuto in passato una qualche forma adeguata a uno scopo, e che ora sia semplicemente rotta. Ma sembra che non sia così; per lo meno non se ne trova alcun segno; non si vedono aggiunte o fratture che potrebbero far pensare qualcosa del genere; il tutto sembra certo insensato, ma nel suo genere concluso. D’altronde, non se ne può dire niente di più preciso, perché Odradek è straordinariamente mobile e non si lascia prendere.
Si intrattiene ora sul tetto, ora nelle scale, ora nei corridoi, ora nell’atrio. A volte non lo si vede per mesi; evidentemente si è trasferito in altre case; torna poi però invariabilmente in casa nostra. A volte, quando si esce dalla porta, sta proprio lì sotto appoggiato alla ringhiera delle scale, e viene voglia di parlargli. Naturalmente non gli si fanno domande difficili, ma lo si tratta – già la sua piccolezza induce a questo – come un bambino. «Come ti chiami?» gli si chiede. «Odradek», dice. «E dove abiti?» «Senza fissa dimora» dice, e ride; ma è solo una risata come la può emettere chi è senza polmoni. Suona all’incirca come il fruscio delle foglie cadute. Per lo più, con questo il colloquio finisce. D’altronde anche queste risposte non sempre si possono ottenere; spesso resta muto a lungo, come il legno di cui sembra esser fatto.
Mi chiedo inutilmente cosa avverrà di lui. Forse che può morire? Tutto ciò che muore ha avuto prima una specie di scopo, una specie di attività sulla quale si è logorato; questo non è il caso di Odradek. Forse dovrà allora un giorno rotolare ancora per le scale trascinando i suoi fili arrotolati fra i piedi dei miei figli, e dei figli dei miei figli? Certo, non fa danno a nessuno; ma questa idea, che possa anche sopravvivermi, mi dà quasi un dolore.

F. Kafka, Il cruccio del padre di famiglia.